You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

AWS SageMaker invoke_endpoint调用致端点无限循环问题求助

AWS SageMaker端点调用后陷入无限循环问题

调用AWS SageMaker的invoke_endpoint接口后,端点陷入无限循环状态。只有通过键盘操作(Ctrl+C)终止请求,模型才会停止重复处理该请求。

CloudWatch日志显示以下重复内容:

<CONTAINER_LOGS>
INFO:     169.254.178.2:52386 - "POST /invocations HTTP/1.1" 200 OK
INFO:     169.254.178.2:42776 - "GET /ping HTTP/1.1" 200 OK
...
<CONTAINER_LOGS>
INFO:     169.254.178.2:52386 - "POST /invocations HTTP/1.1" 200 OK
INFO:     169.254.178.2:42776 - "GET /ping HTTP/1.1" 200 OK
...

调用示例:

aws sagemaker-runtime invoke-endpoint --endpoint-name <name> --body '{"x":"x"}' --content-type application/json output.json --region <region>
^C -> 终止后循环停止

相关情况说明:

  • 使用AWS官方文档中描述的自定义容器
  • 本地测试容器时,请求与响应均符合预期
  • 按照官方文档的方式调用端点

我遗漏了什么配置或步骤?此前在Stack Overflow看到类似未解决的问题。

内容的提问来源于stack exchange,提问作者Eyal Solomon

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.15 20:38:11