PyTorch无法识别CUDA问题求助：Ubuntu环境下PyTorch+Ray神经网络建模报错排查

从你提供的信息来看，核心问题是conda环境内的CUDA runtime版本与PyTorch绑定的cudatoolkit版本不匹配，同时系统中存在多个CUDA版本（驱动11.7、nvcc 11.2、numba检测到的runtime 10.2），导致PyTorch无法正确加载CUDA支持。以下是分步解决方案：

1. 清理环境中的冲突CUDA依赖 #

你的numba检测到环境内使用的是CUDA 10.2 runtime，这和你安装PyTorch时指定的cudatoolkit=11.3完全不兼容，会干扰PyTorch的CUDA识别。先清理这些冲突包：

• 激活你的conda环境：

  conda activate your_env_name
  

• 卸载numba及旧版CUDA相关包：

  conda remove numba cudatoolkit --force
  

2. 重新安装匹配驱动的PyTorch #

你的NVIDIA驱动版本是515.65.01，支持CUDA 11.7及以下版本。推荐使用PyTorch官方提供的pytorch-cuda包（它会自动匹配合适的cudatoolkit），而不是手动指定cudatoolkit：

conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia

3. 确保conda环境库路径优先级 #

避免系统中旧版CUDA库被优先加载，需要让conda环境的库路径排在最前面：

• 激活环境后，检查当前路径：

  echo $LD_LIBRARY_PATH
  

• 如果没有看到conda环境的lib路径（比如~/miniconda3/envs/your_env/lib），可以编辑环境的激活脚本：

  echo 'export LD_LIBRARY_PATH=$CONDA_PREFIX/lib:$LD_LIBRARY_PATH' >> $CONDA_PREFIX/etc/conda/activate.d/env_vars.sh
  

• 重新激活环境使配置生效：

  conda deactivate && conda activate your_env_name
  

4. 验证PyTorch CUDA支持 #

运行以下代码确认CUDA是否正常识别：

import torch
print(f"PyTorch版本: {torch.__version__}")
print(f"CUDA可用: {torch.cuda.is_available()}")
print(f"CUDA设备数量: {torch.cuda.device_count()}")
if torch.cuda.is_available():
    print(f"当前设备: {torch.cuda.get_device_name(0)}")

补充说明 #

你提到Keras可以正常使用CUDA，这是因为Keras（通常绑定TensorFlow）可能使用了系统级的CUDA或者自身打包的CUDA runtime，和PyTorch的conda环境是隔离的，所以不受环境内版本冲突的影响。

内容的提问来源于stack exchange，提问作者Arman Asgharpoor