TensorFlow Docker容器无法调用GPU问题求助

核心问题：TensorFlow GPU镜像与主机CUDA版本不兼容 #

你主机上的CUDA版本是12.6.2，但tensorflow/tensorflow:latest-gpu默认对应的CUDA版本大概率低于12.6，版本不匹配导致GPU库加载失败，最终无法识别GPU设备。

具体解决步骤 #

1. 确认TensorFlow镜像内置的CUDA版本
   执行以下命令，查看镜像里的CUDA版本是否和主机匹配：

   docker run --rm tensorflow/tensorflow:latest-gpu cat /usr/local/cuda/version.txt
   

2. 选用与主机CUDA版本适配的TensorFlow镜像
   TensorFlow对CUDA版本有严格的兼容性要求，比如：

   • TensorFlow 2.17.x系列适配CUDA 12.6
   • TensorFlow 2.16.x系列适配CUDA 12.3
     你可以直接使用对应版本的镜像测试，比如适配CUDA12.6的命令：

   docker run --gpus all -it --rm tensorflow/tensorflow:2.17.0-gpu python -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"
   

3. 额外排查点（若上述方法无效）

   • 检查NVIDIA Container Toolkit版本：确保安装的是支持Ubuntu24.04的版本，执行dpkg -l | grep nvidia-container-toolkit查看，若版本过旧则重新安装适配24.04的toolkit。
   • 验证主机驱动版本：CUDA12.6要求NVIDIA驱动版本至少为535.86.05，通过nvidia-smi确认驱动版本是否达标，若过低则升级驱动。

内容的提问来源于stack exchange，提问作者Charlie Fish