适配CUDA 12.4的PyTorch与CuDNN版本查询及运行故障求助

• nvidia-smi显示CUDA驱动版本为12.4，已安装对应版本的CUDA Toolkit，并下载了最新版CuDNN
• 因PyTorch暂未提供适配CUDA 12.4的版本，选择安装了适配CUDA 12.1的PyTorch
• 将CuDNN文件复制到CUDA Toolkit目录，并添加CUDA的Bin目录到系统环境变量后，运行代码出现错误

方法一：调整CUDA Toolkit版本适配PyTorch #

1. 卸载当前的CUDA 12.4 Toolkit：打开控制面板→程序和功能，找到NVIDIA CUDA Toolkit 12.4相关组件全部卸载
2. 下载并安装CUDA 12.1 Toolkit：选择对应系统版本，安装时选自定义选项，确保勾选CUDA Runtime、CUDA Samples等必要组件
3. 下载适配CUDA 12.1的CuDNN版本：找到与CUDA 12.1匹配的CuDNN包，解压后将bin、include、lib三个文件夹内的文件，分别复制到CUDA 12.1安装目录对应的同名文件夹中（默认路径一般为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1）
4. 验证环境变量：确保系统环境变量PATH中包含CUDA 12.1的bin和libnvvp路径，且优先级高于其他CUDA版本路径
5. 重新安装PyTorch：使用适配CUDA 12.1的命令，如pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

方法二：临时用CPU版本排查问题 #

如果仅需验证代码逻辑，可先安装CPU版本PyTorch：pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu，运行代码确认是否为CUDA环境配置导致的错误

方法三：检查CuDNN与CUDA版本匹配性 #

• 必须确保CuDNN版本与安装的CUDA Toolkit版本严格匹配，禁止混用不同CUDA版本的CuDNN
• 复制CuDNN文件时，要覆盖CUDA目录对应文件夹内的原有文件，避免文件冲突

配置完成后，运行以下代码验证PyTorch能否正常调用CUDA：

import torch
print(torch.cuda.is_available())
print(torch.version.cuda)

若输出True和对应CUDA版本号，说明配置成功

内容的提问来源于stack exchange，提问作者CanKURT