AWS SageMaker预训练Sklearn模型部署故障排查：端点创建停滞或超时失败

看起来你遇到的核心问题是模型压缩包的文件夹结构不符合 SageMaker 的要求，导致模型加载失败，进而引发超时和 AttributeError 错误。下面一步步帮你解决：

1. 修正压缩包结构（最关键的一步） #

SageMaker 要求当你上传模型 artifacts 的 tar.gz 文件后，解压后的根目录必须直接包含 code 文件夹和模型文件，不能嵌套在额外的外层文件夹（比如你的 all_files）里。

错误结构（你的当前情况）： #

all_files/
├─ code/
│  └─ inference.py
└─ test_custom_model

解压后在 /opt/ml/model 下会生成 all_files 文件夹，导致 model_fn 里的路径 /opt/ml/model/test_custom_model 根本不存在，模型加载失败。

正确结构： #

直接把 code 和 test_custom_model 放在 tar.gz 的根目录：

code/
└─ inference.py
test_custom_model

修正打包命令： #

替换原来的打包命令：

# 原来的错误命令
# tar -cvpzf test_custom_model.tar.gz all_files

# 正确命令：直接打包code文件夹和模型文件
tar -cvpzf test_custom_model.tar.gz code test_custom_model

2. 验证模型加载逻辑 #

你的 inference.py 里的 model_fn 逻辑是对的，只要结构正确，model_dir 会指向 /opt/ml/model，os.path.join(model_dir, 'test_custom_model') 就能正确找到模型文件。可以在本地先测试：

# 本地模拟测试
import os
import joblib

model_dir = "./"  # 指向包含code和test_custom_model的本地目录
model_path = os.path.join(model_dir, 'test_custom_model')
model = joblib.load(model_path)
# 测试预测
sample_input = [[你的测试特征]]
print(model.predict(sample_input))

3. 解决无服务器部署超时问题 #

当结构修正后，模型加载速度会大幅提升，180秒的超时限制应该足够。如果还是超时：

• 增大 ServerlessConfig 里的 MemorySizeInMB，比如设置为 3072 或 4096，更大的内存能加快模型加载速度。
• 检查模型文件大小，如果模型过大（比如超过几百MB），可以考虑用 joblib.dump 时设置压缩参数（compress=3）减小体积，或者使用更高效的存储格式。

4. 解决实时部署的 AttributeError 问题 #

这个错误是因为模型加载失败返回了 None，SageMaker 的健康检查（/ping）尝试调用模型的方法时触发了报错。修正压缩包结构后，模型能正常加载，这个错误会自动消失。

保持部署流水线的灵活性 #

你想要支持不同模型（如 XGBoost/Sklearn）的灵活流水线，只需要：

• 针对不同模型修改 inference.py 里的 model_fn：比如 XGBoost 用 xgboost.Booster.load_model() 代替 joblib.load()。
• 保持相同的文件夹结构（根目录下的 code + 模型文件）。
• 部署脚本无需大改，只需要替换模型文件名和对应的框架镜像 URI（比如 XGBoost 的镜像可以用 sagemaker.image_uris.retrieve("xgboost", region, version="1.5-1")）。

额外调试建议 #

• 查看 CloudWatch 日志：实时部署失败时，在 CloudWatch 里找到对应的日志组（通常是 /aws/sagemaker/Endpoints/你的端点名称），查看完整的错误栈，确认是否还有其他问题。
• 确认角色权限：虽然你已经配置了多个权限，但可以检查角色是否有读取 S3 桶中模型 artifacts 的权限（不过你能上传文件，大概率权限没问题）。

内容的提问来源于stack exchange，提问作者prog397