在Visual Studio Code中安装llama-cpp-python包时遇编译错误求助

• 安装系统编译依赖

  • Windows：安装Visual Studio并勾选「Desktop development with C++」工作负载，或者安装MinGW-w64并配置环境变量让pip可调用编译器。
  • Linux：Debian/Ubuntu系执行sudo apt-get install build-essential，RHEL/CentOS系执行sudo yum groupinstall "Development Tools"，安装gcc、g++、make等基础编译工具。
  • macOS：执行xcode-select --install安装Xcode Command Line Tools。

• 使用预编译二进制包
  跳过本地编译，直接安装预编译wheel：

  pip install llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
  

  若需GPU加速（如CUDA），替换路径后缀为对应CUDA版本（如/cu121对应CUDA 12.1），需确保本地已安装对应CUDA环境。

• 更新pip与构建工具
  旧版本工具可能导致编译异常，先更新：

  pip install --upgrade pip setuptools wheel
  

• 手动编译指定参数
  若需自行编译，可通过环境变量指定编译选项：

  • Windows（使用MinGW时）：

    set CMAKE_GENERATOR=MinGW Makefiles
    pip install llama-cpp-python
    

  • Linux（需BLAS优化时）：

    CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" pip install llama-cpp-python
    

    需提前安装对应依赖库（如OpenBLAS）。

内容的提问来源于stack exchange，提问作者Luc Hamelijnck