AWS EC2实例中TensorFlow-GPU无法识别GPU设备的问题求助

问题背景 #

在Amazon EC2 p2.xlarge实例中，使用AWS Deep Learning Base AMI GPU CUDA 11（AMI ID：ami-00d0a61a0238cae2e，内置NVIDIA CUDA、cuDNN、NCCL、GPU驱动、Docker、NVIDIA-Docker及EFA支持），手动安装TensorFlow后，执行以下命令无法识别GPU设备：

python3 -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"

核心报错信息：

• CUDA_ERROR_NO_DEVICE: no CUDA-capable device is detected
• kernel driver does not appear to be running on this host: /proc/driver/nvidia/version does not exist

解决步骤 #

1. 检查GPU驱动运行状态 #

执行以下命令验证NVIDIA驱动是否正常加载：

nvidia-smi

若提示命令不存在或无GPU设备信息，说明驱动未正常运行。

2. 重新安装NVIDIA驱动 #

p2.xlarge实例搭载Tesla K80 GPU，需安装适配CUDA 11的驱动版本：

# 卸载现有残留驱动
sudo apt-get purge nvidia*
sudo apt-get autoremove

# 安装适配驱动
sudo apt-get install nvidia-driver-470

# 重启实例生效
sudo reboot

重启后再次执行nvidia-smi，若显示Tesla K80的硬件信息，说明驱动加载成功。

3. 配置CUDA环境变量 #

确保CUDA相关路径已加入系统环境变量：

# 检查当前环境变量
echo $LD_LIBRARY_PATH
echo $PATH

若未包含/usr/local/cuda/lib64和/usr/local/cuda/bin，将其添加到~/.bashrc：

echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
source ~/.bashrc

4. 安装适配CUDA版本的TensorFlow #

TensorFlow与CUDA版本存在严格兼容性，CUDA 11需安装TensorFlow 2.6及以上版本：

# 卸载现有TensorFlow
pip uninstall tensorflow -y

# 安装适配的GPU兼容版本
pip install tensorflow==2.10.*

5. 验证GPU识别 #

再次执行命令验证GPU是否被识别：

python3 -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))"

正常情况下会输出类似[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]的结果。

关于tensorflow-gpu的说明 #

从TensorFlow 2.1版本开始，官方已合并CPU与GPU版本，直接安装tensorflow即可自动启用GPU加速（前提是CUDA和驱动环境配置正确），无需单独安装tensorflow-gpu包。Amazon EC2 GPU实例完全支持TensorFlow的GPU加速功能，只要环境配置符合要求即可正常使用。

内容的提问来源于stack exchange，提问作者Alessandro