TensorFlow无法加载CUDA动态库，GPU无法识别求助

问题概述 #

TensorFlow编译阶段确认支持CUDA，但运行时无法加载cudart64_110.dll、cublas64_11.dll等CUDA相关动态库，导致GPU设备未被注册，仅能检测到CPU。系统配置（GTX 1650 Ti、CUDA 11.2、cuDNN 8.0.1、VS运行库）符合官方要求，nvcc --version和nvidia-smi命令正常返回结果。

解决方案 #

1. 修复系统环境变量优先级

• 将CUDA的bin路径 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin 添加到系统PATH的最顶部（而非用户PATH），Windows加载DLL时会按PATH顺序查找，避免其他版本的库干扰。
• 同时添加CUDA的libnvvp路径 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\libnvvp。
• 必须重启电脑使环境变量生效，仅重启PyCharm无效。

2. 强制指定DLL加载目录

取消测试代码中注释的DLL目录指定代码，确保在导入TensorFlow前执行，强制Python定位CUDA库：

import os
os.add_dll_directory(r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin")

import tensorflow as tf
from tensorflow.python.client import device_lib

print(tf.add(1, 2))
print(tf.test.is_built_with_cuda())
print(tf.test.is_built_with_gpu_support())
print(tf.config.list_physical_devices('GPU'))
print(device_lib.list_local_devices())

3. 清理冲突的TensorFlow包

虚拟环境中同时安装tensorflow、tensorflow-gpu、tf-nightly会导致版本冲突，执行以下命令清理并重新安装：

pip uninstall -y tensorflow tensorflow-gpu tf-nightly cudatools
pip install tensorflow==2.8.0

注：当前tensorflow包已整合GPU支持，无需单独安装tensorflow-gpu，TensorFlow 2.8.0与CUDA 11.2、cuDNN 8.0.1完全匹配。

4. 验证cuDNN文件完整性

检查cuDNN文件是否正确复制到CUDA对应目录：

• 将cuDNN bin目录下的cudnn64_8.dll复制到CUDA的bin目录
• 将cuDNN include目录下的所有cudnn*.h文件复制到CUDA的include目录
• 将cuDNN lib\x64目录下的cudnn.lib复制到CUDA的lib\x64目录
  确保cuDNN版本为8.0.1，与CUDA 11.2严格匹配。

5. 以管理员权限运行PyCharm

虚拟环境可能缺少CUDA目录的读取权限，右键点击PyCharm图标选择以管理员身份运行，再重新执行测试代码。

验证步骤 #

完成上述操作后，运行测试代码查看tf.config.list_physical_devices('GPU')输出。若仍有问题，可在虚拟环境的命令提示符中执行：

python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"

获取更详细的报错信息用于排查。

内容的提问来源于stack exchange，提问作者Brecht De Cock