PyTorch中CUDA无法正常工作的问题求助

问题描述 #

我在Python脚本中运行torch和cuda模块时遇到基础问题，推测与已安装的两个Python版本有关，可能是torch和cuda安装到了错误的版本中，不知如何解决。

我按照PyTorch官网指引执行命令：
pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117

安装cuda-python的命令为：pip3 install cuda-python==11.7（使用最新版本也会出现相同问题）。

查看版本信息显示安装似乎正常，但运行以下代码：

import torch

print(torch.cuda.is_available())

返回结果为False，运行使用torch的代码时出现报错。我已安装支持CUDA的PyTorch，却无法正常使用，恳请各位提供解决思路。

补充：附上我的GPU信息截图。

排查解决步骤 #

• 确认当前运行的Python版本
  分别执行python --version和python3 --version，明确脚本实际调用的Python版本。很多情况下pip3对应的Python版本和脚本默认调用的版本不一致，导致依赖装错了环境。

• 核对PyTorch安装环境
  在脚本中运行以下代码，查看当前环境的PyTorch安装路径：

  import torch
  print(torch.__file__)
  

  再执行pip3 show torch查看安装路径，对比两者是否一致。如果路径不同，说明脚本用的Python环境未安装对应PyTorch版本。

• 验证CUDA版本兼容性

  1. 执行nvidia-smi查看显卡驱动支持的最高CUDA版本，确保其不低于PyTorch内置的CUDA版本（可通过torch.version.cuda查看）。如果驱动版本过低，需要先升级显卡驱动。
  2. cuda-python版本需和PyTorch内置CUDA版本匹配，无需刻意安装最新版，保持版本一致即可。

• 检查虚拟环境状态
  如果使用了虚拟环境，确认运行脚本前是否激活了正确的环境。未激活时，脚本会调用系统默认Python，而你的PyTorch可能仅安装在虚拟环境中。

• 精准安装到目标环境
  明确脚本使用的Python版本后，直接用对应版本的pip执行安装命令，比如目标版本是Python3.10，就用：
  python3.10 -m pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117
  避免因pip3指向错误Python版本导致安装错位。

• 确认GPU硬件支持
  从GPU信息截图确认显卡是否为NVIDIA且算力≥3.5（CUDA支持的最低算力要求），如果是AMD显卡或集成显卡，本身不支持CUDA，torch.cuda.is_available()自然会返回False。

内容的提问来源于stack exchange，提问作者ejn