如何安装带GPU支持的PyTorch且避免重复下载CUDA库？

一、可行解决方案 #

1. 从源码编译PyTorch（最彻底的复用方式） #

• 前置条件：系统已安装对应版本的CUDA Toolkit、cuDNN、NCCL等依赖，且正确配置CUDA_HOME、CUDNN_INCLUDE_DIR、CUDNN_LIBRARY等环境变量
• 操作步骤：
  • 克隆PyTorch仓库并切换到目标版本分支
  • 设置编译参数，强制使用系统CUDA依赖：

    export USE_CUDA=1
    export USE_SYSTEM_CUDA=1
    export USE_SYSTEM_CUDNN=1
    export USE_SYSTEM_NCCL=1
    export USE_SYSTEM_CUBLAS=1
    

  • 执行编译安装：python setup.py install 或 pip install -e .
• 优劣：完全消除库冗余，可针对硬件做定制优化；但编译耗时较长，需手动处理依赖兼容性

2. CPU版PyTorch+系统CUDA（适合简单场景） #

• 安装CPU版本PyTorch：

  pip install torch --index-url https://download.pytorch.org/whl/cpu
  

• 将系统CUDA库路径加入动态链接库搜索路径：

  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
  

• 验证：运行python -c "import torch; print(torch.cuda.is_available())"，返回True即为成功
• 注意：部分PyTorch高级功能可能依赖自带CUDA组件，此方法存在兼容性风险，仅推荐用于简单推理场景

3. 手动替换PyTorch自带库（风险较高） #

• 找到PyTorch安装目录下的CUDA库文件夹（通常为site-packages/torch/lib）
• 删除其中的libcudart.so、libcudnn.so、libcublas.so等重复库文件
• 创建软链接指向系统CUDA的对应库文件（需严格匹配版本号）：

  ln -s /usr/local/cuda/lib64/libcudart.so.11.8 site-packages/torch/lib/libcudart.so
  ln -s /usr/local/cuda/lib64/libcudnn.so.8 site-packages/torch/lib/libcudnn.so
  

• 注意：PyTorch版本更新后需重新操作，版本不匹配会导致运行时错误

二、关于PyTorch依赖硬编码的疑问解答 #

1. 为何无法兼容同主/次版本的系统CUDA？ #

PyTorch预编译包是针对特定CUDA小版本编译测试的，内部的CUDA依赖（如cuDNN、cublas）与该版本强绑定，以此保障稳定性。不同于TensorFlow采用宽松的动态链接策略，PyTorch选择将核心CUDA库打包进预编译包，目的是降低用户环境配置的复杂度，避免因版本差异导致的运行错误。

2. 为何同版本小版本差异仍需下载指定包？ #

PyTorch预编译包的符号链接、ABI接口都是基于特定CUDA小版本（如11.8.x）构建的，即使系统CUDA是同主/次版本的更新小版本（如11.8.y），也可能存在ABI不兼容的风险。为了保证预编译包的可靠性，官方强制使用构建时绑定的CUDA版本，而非动态适配系统库。

问题具象示例 #

运行环境：支持CUDA 12.2的GPU驱动，基于官方nvidia/cuda-11.8-cudnn8-devel-ubuntu22.04:latest容器

环境信息 #

!nvidia-smi
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.104.05             Driver Version: 535.104.05   CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
[..]

!env | grep CU | sort
CUDA_VERSION=11.8.0
[..]
NV_CUDA_LIB_VERSION=11.8.0-1
[..]
NV_CUDNN_PACKAGE=libcudnn8=8.9.0.131-1+cuda11.8
NV_CUDNN_PACKAGE_DEV=libcudnn8-dev=8.9.0.131-1+cuda11.8
[..]
NV_LIBCUBLAS_DEV_VERSION=11.11.3.6-1
[..]
NV_LIBCUBLAS_VERSION=11.11.3.6-1
NV_LIBCUSPARSE_DEV_VERSION=11.7.5.86-1
NV_LIBCUSPARSE_VERSION=11.7.5.86-1

常规安装的冗余问题 #

• 直接pip install torch会下载旧版CUDA runtime（11.7）及配套库：

!pip install torch
Collecting torch
  Downloading torch-2.0.1-cp310-cp310-manylinux1_x86_64.whl (619.9 MB)
     ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 619.9/619.9 MB 5.3 MB/s eta 0:00:0000:0100:02
[..]
Successfully installed cmake-3.27.5 filelock-3.12.4 lit-17.0.1 mpmath-1.3.0 networkx-3.1 nvidia-cublas-cu11-11.10.3.66 nvidia-cuda-cupti-cu11-11.7.101 nvidia-cuda-nvrtc-cu11-11.7.99 nvidia-cuda-runtime-cu11-11.7.99 nvidia-cudnn-cu11-8.5.0.96 nvidia-cufft-cu11-10.9.0.58 nvidia-curand-cu11-10.2.10.91 nvidia-cusolver-cu11-11.4.0.1 nvidia-cusparse-cu11-11.7.4.91 nvidia-nccl-cu11-2.14.3 nvidia-nvtx-cu11-11.7.91 sympy-1.12 torch-2.0.1 triton-2.0.0

• 指定CUDA 11.8安装会下载2.3GB的捆绑包，包含重复的CUDA库：

!pip install torch --index-url https://download.pytorch.org/whl/cu118
Looking in indexes: https://download.pytorch.org/whl/cu118
Collecting torch
  Downloading https://download.pytorch.org/whl/cu118/torch-2.0.1%2Bcu118-cp310-cp310-linux_x86_64.whl (2267.3 MB)
     ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 2.3/2.3 GB 2.3 MB/s eta 0:00:00:00:0100:06
[..]
Successfully installed cmake-3.25.0 filelock-3.9.0 lit-15.0.7 mpmath-1.3.0 networkx-3.0 sympy-1.12 torch-2.0.1+cu118 triton-2.0.0

• 解压后可见大量重复库：

148K    libcudnn.so.8
680K    libcudart-d0da41ae.so.11.0
1.3M    libc10_cuda.so
72M     libcudnn_ops_train.so.8
91M     libcublas.so.11
94M     libcudnn_ops_infer.so.8
98M     libcudnn_cnn_train.so.8
116M    libcudnn_adv_train.so.8
125M    libcudnn_adv_infer.so.8
241M    libtorch_cuda_linalg.so
548M    libcublasLt.so.11
621M    libcudnn_cnn_infer.so.8
1.3G    libtorch_cuda.so

内容的提问来源于stack exchange，提问作者mirekphd