You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何向AWS SageMaker端点实时流式传输视频帧?技术可行性问询

SageMaker实时视频流推理的可行性问题

我已经成功实现了单次调用或批量调用SageMaker端点进行图片推理的功能,运行效果良好,示例代码如下:

self.session = boto3.Session(
            aws_access_key_id=aws_access_key,
            aws_secret_access_key=aws_secret_access_key,
        )
client = self.session.client('runtime.sagemaker', region_name='us-east-1', config=CONFIG)
response = client.invoke_endpoint(EndpointName=ENDPOINT_NAME,
                                  ContentType='application/json',
                                  Body=json.dumps(payload))

但目前遇到了两个关键问题:

  • SageMaker会话有硬性超时限制,无法长时间保持连接来流式传输视频帧并接收响应流
  • 无法在SageMaker的容器中运行Socket并维持端口开放以降低延迟——虽然常规的Flask RESTful API端点能正常接收请求,但Socket端点会因超时无法建立连接

想请教:是否存在向SageMaker端点流式传输图像的方法?我知道SageMaker提供的Real-Time Inference仅支持单次或批量调用端点,但我有实时视频流的需求,需要在帧生成时就流式传输并接收响应流,且希望通过类似Socket的开放端口实现。SageMaker是否适用于这类场景?

内容的提问来源于stack exchange,提问作者Igor Vishnevskiy

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.22 19:13:22