Torch 2安装后加载libcudnn_cnn_infer.so.8失败问题求助

问题根因 #

错误源于Torch 2 + CUDA 11.8依赖的libnvrtc.so库未在RunPod环境中安装，此前CUDA 11.7的环境已包含对应组件，切换版本后缺失该依赖。

具体解决步骤 #

• 安装CUDA 11.8 Toolkit核心组件
  在RunPod终端执行以下命令，快速安装所需依赖：

  sudo apt update && sudo apt install -y cuda-toolkit-11-8
  

  若使用conda虚拟环境，可替换为：

  conda install -c nvidia cuda-toolkit=11.8
  

• 配置环境变量
  临时生效可执行：

  export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH
  export PATH=/usr/local/cuda-11.8/bin:$PATH
  

  要永久生效，将上述两行添加到~/.bashrc或~/.profile文件末尾，再执行source ~/.bashrc刷新配置。

• 验证依赖状态
  执行以下命令确认libnvrtc.so已被系统识别：

  ldconfig -p | grep libnvrtc.so
  

  输出中出现libnvrtc.so.11.8相关条目即说明配置成功。

• 重启Automatic1111 WebUI
  关闭当前WebUI进程后重新启动，确保新环境变量生效。

轻量化替代方案（无需全量安装Toolkit） #

如果不想安装完整CUDA Toolkit，可单独安装缺失的库：

sudo wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-debian11-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo dpkg -i cuda-repo-debian11-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo cp /var/cuda-repo-debian11-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get install -y libnvrtc11.8

内容的提问来源于stack exchange，提问作者Furkan Gözükara