AWS SageMaker invoke_endpoint调用致端点无限循环问题求助
AWS SageMaker端点调用后陷入无限循环问题
调用AWS SageMaker的invoke_endpoint接口后,端点陷入无限循环状态。只有通过键盘操作(Ctrl+C)终止请求,模型才会停止重复处理该请求。
CloudWatch日志显示以下重复内容:
<CONTAINER_LOGS> INFO: 169.254.178.2:52386 - "POST /invocations HTTP/1.1" 200 OK INFO: 169.254.178.2:42776 - "GET /ping HTTP/1.1" 200 OK ... <CONTAINER_LOGS> INFO: 169.254.178.2:52386 - "POST /invocations HTTP/1.1" 200 OK INFO: 169.254.178.2:42776 - "GET /ping HTTP/1.1" 200 OK ...
调用示例:
aws sagemaker-runtime invoke-endpoint --endpoint-name <name> --body '{"x":"x"}' --content-type application/json output.json --region <region> ^C -> 终止后循环停止
相关情况说明:
- 使用AWS官方文档中描述的自定义容器
- 本地测试容器时,请求与响应均符合预期
- 按照官方文档的方式调用端点
我遗漏了什么配置或步骤?此前在Stack Overflow看到类似未解决的问题。
内容的提问来源于stack exchange,提问作者Eyal Solomon
相关产品推荐
相关产品推荐

