Windows11环境下无法安装mistral-inference Python包求助

一、处理xformers安装时ModuleNotFoundError: No module named 'torch'问题 #

1. 清理冗余Torch版本：虚拟环境中多版本Torch会导致依赖检测混乱，先全部卸载：

   pip uninstall -y torch torchvision torchaudio
   

2. 重新安装匹配CUDA的Torch：根据你的GPU支持的CUDA版本（如RTX30/40系优先选CUDA12.x），用官方命令安装，以CUDA12.4为例：

   pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
   

   安装后验证GPU可用性：

   import torch
   print(torch.cuda.is_available())  # 输出True表示GPU配置正常
   print(torch.version.cuda)  # 确认CUDA版本与安装包匹配
   

3. 指定版本安装xformers：Python3.13兼容性有限，选择支持的xformers版本，强制重装并忽略依赖检测（确保Torch已正确安装）：

   pip install xformers==0.0.29.post3 --force-reinstall --no-deps
   

   注意：Windows环境需提前安装Visual Studio C++ Build Tools（勾选"Desktop development with C++"组件），否则xformers编译会失败。

二、处理源码安装时jnius找不到Cython的问题 #

1. 清理冗余Cython版本：

   pip uninstall -y Cython
   

2. 安装jnius兼容的Cython版本：jnius1.1.0对Cython版本有要求，指定安装0.29.37：

   pip install Cython==0.29.37
   

3. 关闭构建隔离安装jnius：pip默认的构建隔离会创建临时环境，导致无法读取已安装的Cython，添加--no-build-isolation参数：

   pip install jnius==1.1.0 --no-build-isolation
   

4. 前置依赖补全：若仍失败，先安装构建工具再重试：

   pip install setuptools wheel
   pip install jnius==1.1.0
   

额外建议 #

• 确保操作全程在激活的虚拟环境中进行，避免全局包干扰。
• Python3.13为较新版本，部分深度学习库兼容性不足，建议降级到Python3.11或3.12以获得更稳定的支持。
• 安装mistral-inference前，先完成所有基础依赖配置，再执行安装命令：

  pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
  pip install Cython==0.29.37
  pip install mistral-inference
  

内容的提问来源于stack exchange，提问作者minos