Azure ML上Whisper模型实时端点容器部署失败求助

错误根源 #

从部署日志里能揪出几个核心问题：

• Werkzeug版本不兼容：推理服务器读取werkzeug版本时出错，说明该包版本和Azure ML的推理服务不匹配
• scikit-learn版本冲突：模型要求scikit-learn≤1.1.3，但当前环境装的是1.2.2
• MLflow相关包版本混乱：找不到mlflow.gluon模块，且azureml.evaluate.mlflow无法导入pyfunc，明显是MLflow和Azure ML评估包的版本不兼容

修复步骤（Azure ML中自定义依赖环境） #

方法1：用Conda环境文件定义兼容依赖 #

1. 新建conda_env.yml文件，写入以下内容：

name: whisper-deploy-env
channels:
  - conda-forge
dependencies:
  - python=3.10
  - scikit-learn<=1.1.3
  - werkzeug==2.0.3
  - pip:
      - mlflow<2.0
      - azureml-evaluate-mlflow==1.49.0
      - openai-whisper

2. 部署时指定该环境：
   • Python SDK部署：在Model.deploy()方法里添加参数environment=Environment.from_conda_specification("whisper-deploy-env", "conda_env.yml")
   • Studio界面部署：在部署流程的「高级」选项中，上传这个yml文件作为自定义运行环境

方法2：用requirements.txt指定依赖 #

1. 新建requirements.txt：

scikit-learn<=1.1.3
werkzeug==2.0.3
mlflow<2.0
azureml-evaluate-mlflow==1.49.0
openai-whisper

2. 部署时把这个文件和模型打包在一起，或者在部署配置中指定该文件的路径

额外提醒 #

• 先在本地搭建相同环境测试模型能否正常加载，减少部署失败次数
• Whisper-large-v3对内存要求高，部署时选至少16GB内存的计算目标

内容的提问来源于stack exchange，提问作者Mostafa M. Galal