Kubernetes部署机器学习模型缺Cython/setuptools_rust如何解决

• 依赖安装顺序错误：你将cython和setuptools_rust放在了pip依赖列表的末尾，而Azure ML构建镜像时，部分需要编译的Python包会先于这两个构建依赖执行安装，安装过程中找不到对应编译工具就会抛出ModuleNotFoundError。
• 依赖层级配置错误：cython属于基础编译依赖，放在pip子列表中安装的优先级低于conda主依赖列表，部分编译步骤无法识别pip安装的构建工具。
• 依赖缺失未覆盖：setuptools_rust的正常运行需要系统级Rust编译工具链，基础镜像如果没有预装该工具链，仅安装Python层面的setuptools_rust也会触发报错。
• 配置参数错误：如果你的推理配置中开启了userManagedDependencies=True，Azure ML不会自动安装你yml文件中定义的依赖，直接使用集群现有环境也会导致依赖缺失。

1. 调整conda环境配置的依赖顺序与层级，将cython移到conda主依赖列表，setuptools_rust放在pip依赖列表的最开头，参考配置如下：

name: project_environment
dependencies:
  # 基础依赖先安装
  - python
  - pip
  - cython
  - rust # 新增，安装Rust编译工具链
  - pip:
    # 构建依赖放在pip列表最开头
    - setuptools_rust
    # 业务依赖放在后面
    - azureml-defaults
    - scikit-learn
    - numpy
    - azureml-monitoring

2. 检查推理配置（inference_config）的参数，确保userManagedDependencies设置为False，确认Azure ML会自动装配配置的所有依赖。
3. 部署报错后调用service.get_logs()拉取完整的镜像构建与服务启动日志，定位具体是哪个包安装时触发的依赖报错，针对性调整依赖顺序。
4. 如果调整依赖后仍报错，可以直接使用Azure ML官方预构建的机器学习推理基础镜像，这类镜像已经预装了常用的编译依赖，可避免自行处理依赖冲突。

内容的提问来源于stack exchange，提问作者Pardeep Singla