Mac平台使用Metal安装llama-cpp-python报错求助

排查与修复步骤 #

• 确认Xcode命令行工具已安装
  在终端执行：

  xcode-select --install
  

  若提示已安装则跳过，否则按指引完成安装后重启终端。

• 指定Metal加速环境变量后重新安装
  安装前必须设置Metal相关编译参数，终端执行：

  CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install llama-cpp-python --force-reinstall --upgrade
  

  若使用conda虚拟环境，需先激活对应环境再执行命令。

• 检查Python版本兼容性
  llama-cpp-python建议使用Python 3.8-3.11版本，过新或过旧版本可能引发兼容问题。查看当前版本：

  python --version
  

  版本不符时，可通过pyenv或conda创建符合要求的虚拟环境。

• 清理缓存后重试
  若之前安装失败残留缓存，先清理：

  pip cache purge
  

  再重新执行带环境变量的安装命令。

• 手动编译安装（复杂场景）
  上述方法无效时，克隆源码手动编译：

  git clone https://github.com/abetlen/llama-cpp-python.git
  cd llama-cpp-python
  CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install . --force-reinstall --upgrade
  

内容的提问来源于stack exchange，提问作者Jason