能否通过Amazon SageMaker部署AWS Comprehend分类器并统一管理模型？

当然可以通过SageMaker统一管理和部署包括AWS Comprehend在内的外部服务训练的模型，以下是几种实用方案：

1. 导出Comprehend模型到SageMaker部署 #

• 先通过Comprehend的export_model() API，将训练好的自定义分类/实体识别模型导出到指定的S3存储位置，生成符合SageMaker规范的模型包。
• 接着使用SageMaker的create_model() API（或控制台操作），基于该模型包创建SageMaker模型，再部署为端点。
• 部署完成后，即可通过SageMaker的invoke_endpoint()统一调用，无需再使用Comprehend的boto3.client和classify_document()方法。

2. 利用SageMaker多模型端点统一托管 #

• 对于其他外部来源的模型（比如本地训练的模型、其他AWS服务导出的模型），将其打包为SageMaker支持的格式（如TensorFlow/PyTorch标准模型包，或自定义推理容器），上传至S3。
• 创建SageMaker多模型端点，关联这些模型所在的S3路径。调用时只需在请求中指定目标模型名称，即可通过invoke_endpoint()统一访问所有托管模型。

3. 自定义推理容器封装外部服务逻辑 #

• 若部分模型无法直接导出（比如某些预训练的Comprehend内置模型），可以编写自定义推理容器，将原调用外部服务的逻辑（如调用Comprehend classify_document()的代码）封装在容器内部。
• 将该容器部署为SageMaker端点后，上层业务代码只需调用SageMaker的invoke_endpoint()，容器内部自动处理与外部服务的交互，实现统一调用入口。

注意事项 #

• 导出Comprehend模型时，需确保SageMaker拥有访问目标S3桶的权限，可通过IAM角色配置实现。
• 自定义推理容器需遵循SageMaker的推理容器规范，比如包含serve脚本以处理HTTP请求和响应。

内容的提问来源于stack exchange，提问作者eigenvector_heckler