WSL2 Ubuntu20.04下CUDA与CUDA Toolkit区别及TensorFlow GPU配置问题

1. CUDA与CUDA Toolkit是否为不同组件？ #

• CUDA是NVIDIA推出的并行计算平台和编程模型，是一套完整的技术体系，涵盖GPU硬件架构、驱动、编程接口等核心部分，是GPU加速计算的基础。
• CUDA Toolkit是CUDA体系下的开发工具集合，包含编译器（nvcc）、数学库（cuBLAS、cuFFT）、调试工具、示例代码等，是开发者编写、编译CUDA应用的必备工具。简单来说，CUDA是整体技术框架，CUDA Toolkit是框架内的开发工具子集，属于CUDA的一部分。

2. 使用GPU运行TensorFlow是否需额外安装CUDA Toolkit与cuDNN？ #

• 先确认你通过教程安装的CUDA是否包含对应版本的CUDA Toolkit：如果教程中已经安装了适配TensorFlow的Toolkit版本，无需重复安装；若仅安装了CUDA驱动，则需要补充安装匹配版本的CUDA Toolkit。
• cuDNN是NVIDIA针对深度神经网络优化的加速库，TensorFlow GPU版本必须依赖cuDNN才能运行。如果之前未安装，必须额外下载并配置与CUDA、TensorFlow版本严格匹配的cuDNN。建议先查询当前TensorFlow版本对应的CUDA和cuDNN版本要求，再核对现有环境是否满足。

3. TensorFlow GPU库加载失败警告的解决方法 #

警告内容： #

2023-01-01 00:03:41.818376: W tensorflow/core/common_runtime/gpu/gpu_device.cc:1934] Cannot dlopen some GPU libraries. Please make sure the missing libraries mentioned above are installed properly if you would like to use GPU. Follow the guide at https://www.tensorflow.org/install/gpu for how to download and setup the required libraries for your platform.
Skipping registering GPU devices...

解决步骤： #

• 验证NVIDIA驱动有效性：运行nvidia-smi命令，若能正常显示GPU型号、驱动版本等信息，说明WSL2的GPU驱动正常；若无法显示，需更新Windows端的NVIDIA驱动至支持WSL2的版本。
• 核对版本兼容性：确保CUDA、cuDNN版本与当前TensorFlow版本严格匹配，版本不兼容是库加载失败的常见原因。
• 配置环境变量：将CUDA和cuDNN的库路径添加到系统环境变量中，编辑~/.bashrc文件，添加以下内容：

  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/include:$LD_LIBRARY_PATH
  export PATH=/usr/local/cuda/bin:$PATH
  

  执行source ~/.bashrc使配置生效。
• 排查缺失库：使用ldd命令检查TensorFlow依赖的GPU库，例如找到TensorFlow的核心库后，运行ldd $(python -c "import tensorflow as tf; print(tf.__file__)")，查看输出中标记为not found的库，手动安装对应依赖包。
• 重装TensorFlow：若以上步骤无效，卸载当前TensorFlow，重新安装适配GPU环境的版本，确保使用pip安装时指定正确版本（如pip install tensorflow==2.10.0，需对应匹配的CUDA和cuDNN版本）。

内容的提问来源于stack exchange，提问作者groot