如何向AWS SageMaker端点实时流式传输视频帧?技术可行性问询
SageMaker实时视频流推理的可行性问题
我已经成功实现了单次调用或批量调用SageMaker端点进行图片推理的功能,运行效果良好,示例代码如下:
self.session = boto3.Session( aws_access_key_id=aws_access_key, aws_secret_access_key=aws_secret_access_key, ) client = self.session.client('runtime.sagemaker', region_name='us-east-1', config=CONFIG) response = client.invoke_endpoint(EndpointName=ENDPOINT_NAME, ContentType='application/json', Body=json.dumps(payload))
但目前遇到了两个关键问题:
- SageMaker会话有硬性超时限制,无法长时间保持连接来流式传输视频帧并接收响应流
- 无法在SageMaker的容器中运行Socket并维持端口开放以降低延迟——虽然常规的Flask RESTful API端点能正常接收请求,但Socket端点会因超时无法建立连接
想请教:是否存在向SageMaker端点流式传输图像的方法?我知道SageMaker提供的Real-Time Inference仅支持单次或批量调用端点,但我有实时视频流的需求,需要在帧生成时就流式传输并接收响应流,且希望通过类似Socket的开放端口实现。SageMaker是否适用于这类场景?
内容的提问来源于stack exchange,提问作者Igor Vishnevskiy
相关产品推荐
相关产品推荐

