SageMaker部署自定义Scikit-Learn容器报serve文件缺失问题咨询

SageMaker 对自定义容器的运行约定是：容器启动时必须能在系统$PATH路径下找到两个可执行入口文件：

• train：对应训练流程的启动入口
• serve：对应推理服务的启动入口

这两个文件不是SageMaker自动生成的，需要在构建自定义Docker镜像时手动预置。你之前的镜像基于纯Python基础镜像构建，完全没有预置这两个可执行文件，因此部署时容器启动阶段直接找不到serve命令，触发健康检查失败。

常见误区说明

• 你之前训练流程能跑通，是因为SageMaker Python SDK的SKLearn类在训练阶段会临时向容器注入训练执行逻辑，但部署推理阶段不会自动注入serve入口，因此会出现训练成功、部署直接报错的情况。
• 你之前查到的RUN chmod +x /opt/program/serve操作，是官方预置的Scikit-learn容器模板内的操作逻辑，从零基于Python基础镜像构建的自定义镜像根本不存在该路径下的文件，直接照搬这个命令会触发镜像构建失败。

1. 调整Dockerfile内容，预置符合要求的入口文件 #

修正后的完整Dockerfile参考如下：

FROM python:3.9
# 安装运行所需依赖
RUN pip3 install --no-cache scikit-learn numpy pandas joblib sagemaker-training sagemaker-inference

# 创建统一的程序工作目录
RUN mkdir -p /opt/program
WORKDIR /opt/program

# 将本地编写的业务脚本拷贝到镜像内
COPY script.py /opt/program/

# 生成训练和推理两个可执行入口脚本
RUN printf '#!/bin/bash \n\
exec python3 /opt/program/script.py \
' > /opt/program/train && \
printf '#!/bin/bash \n\
exec sagemaker-inference serve --model /opt/program \
' > /opt/program/serve && \
# 给两个入口文件授予可执行权限
chmod +x /opt/program/train /opt/program/serve

# 将程序目录加入系统PATH，确保容器启动时能直接定位到入口命令
ENV PATH="/opt/program:${PATH}"

几个关键配置说明：

• 推理入口脚本调用sagemaker-inference库的内置服务启动逻辑，会自动识别你写在script.py里的model_fn、input_fn、output_fn、predict_fn四类推理函数，不需要手写HTTP服务逻辑。
• 通过ENV配置把/opt/program永久加入系统PATH，完全解决executable file not found in $PATH的报错。

2. 修正镜像构建与推送流程 #

• 重新执行docker build构建修正后的镜像。
• 修正之前docker tag的参数顺序错误：正确的打标格式为docker tag <本地镜像ID> <你创建的ECR仓库完整URI>，确保URI和ECR控制台显示的仓库地址完全一致。
• 重新推送打标后的镜像到ECR，覆盖旧版本的镜像即可。

3. 适配SageMaker训练参数约定 #

• 之前传入model-dir参数触发云端训练报错，是因为SageMaker训练环境默认会通过SM_MODEL_DIR环境变量向容器传入模型输出路径，不需要在fit的输入字典里手动传递该参数。
• 调整script.py的参数解析逻辑，对接sagemaker-training库的环境变量映射规则，移除手动接收外部传入model-dir参数的逻辑即可。训练完成后，SageMaker会自动将模型输出目录下的文件打包，随部署流程挂载到推理容器的对应路径，无需额外指定模型位置。

镜像重新推送完成后，执行部署代码时显式指定修正后的镜像URI即可正常部署：

aws_sklearn_predictor = aws_sklearn.deploy(
    instance_type='ml.t2.medium',
    initial_instance_count=1,
    image_uri='<你重新推送的ECR镜像完整URI>'
)

容器启动后会自动调用预置的serve脚本启动推理服务，通过健康检查后端点即可正常接收推理请求。

内容的提问来源于stack exchange，提问作者Bas