TensorFlow安装后运行Hello World：如何确认显卡是否被正常调用？

Hey there! Let's break down how to check if your GPU is actually powering your TensorFlow code, and whether those annoying warnings are forcing you to run on CPU only.

1. 直接检测GPU是否被TensorFlow识别 #

最直观的方法是运行一段简单的测试代码，看看TensorFlow能不能找到你的GPU，并且实际用它来计算：

import tensorflow as tf

# 列出所有被检测到的物理GPU
print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU')))

# 尝试在GPU上执行矩阵乘法，验证可用性
with tf.device('/GPU:0'):
    a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
    b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
    c = tf.matmul(a, b)

print("Matrix result:\n", c)

结果解读： #

• 如果输出的Num GPUs Available大于0，且矩阵乘法能正常运行（没有抛出NotFoundError之类的设备找不到错误），那说明你的GPU已经被TensorFlow识别并可以使用了。
• 如果显示0，那就是TensorFlow完全没检测到GPU，需要往下排查环境问题。

2. 区分警告和错误：大部分警告不影响GPU运行 #

TensorFlow的警告（开头标着WARNING）大多是提示性信息，而非致命错误。比如常见的：

• Could not load dynamic library 'libcudnn.so.x'; dlerror: libcudnn.so.x not found（小版本cuDNN缺失，不影响核心计算）
• Your GPU supports CUDA compute capability X.x, which is older than the minimum required Y.y（GPU型号较老，但仍能运行基础功能）

只有当你看到ERROR级别的日志，比如Failed to initialize GPU，才会导致TensorFlow fallback到CPU运行。所以别被一堆警告吓到，先确认核心功能是否正常。

3. 实时查看设备分配：确认代码真的在GPU上跑 #

如果你想精准确认每一步操作都分配到了GPU，可以开启TensorFlow的设备日志：

import tensorflow as tf

# 开启设备分配日志
tf.debugging.set_log_device_placement(True)

# 运行你的Hello World代码或者测试代码
hello = tf.constant('Hello, TensorFlow!')
print(hello.numpy().decode())

运行后，控制台会输出类似这样的信息：

Executing op __inference_keras_scratch_graph_1234 in device /job:localhost/replica:0/task:0/device:GPU:0

如果看到/device:GPU:0，就说明代码确实在GPU上执行；如果显示/device:CPU:0，那就是真的在跑CPU。

4. 若GPU未被使用，需要排查的点 #

如果上面的检测显示GPU没在工作，按以下步骤排查：

• 确认你的显卡是NVIDIA型号：TensorFlow官方仅支持NVIDIA GPU（AMD显卡需要使用ROCm版本的TensorFlow）
• 核对版本兼容性：确保你的CUDA、cuDNN版本和安装的TensorFlow版本完全匹配（比如TensorFlow 2.15对应CUDA 12.2、cuDNN 8.9）
• 检查显卡驱动：确保驱动版本符合CUDA的要求，建议安装最新的稳定版驱动
• 确认安装的是GPU版TensorFlow：如果是用pip安装，要确保装的是tensorflow而非tensorflow-cpu；conda环境建议从conda-forge或nvidia通道安装

内容的提问来源于stack exchange，提问作者Demaunt