TensorFlow识别到NVIDIA GPU却仍用CPU运行的问题求助

1. 修复核心版本不匹配问题 #

TensorFlow 2.4.1官方明确要求搭配CUDA 11.0和cuDNN 8.0.4，你的环境存在多处版本冲突：

• cudatoolkit用了10.1（版本过低），和nvcc 11.5不兼容
• cuDNN 7.6.5不符合TF2.4.1的要求
• GCC 11.3.0版本过高，TF2.4.1仅支持GCC 7.x系列

操作步骤：

• 卸载现有不匹配组件：pip uninstall cudatoolkit cudnn
• 安装对应版本：pip install cudatoolkit=11.0 cudnn=8.0.4
• 将系统级CUDA（nvcc对应的）降级到11.0，或者配置环境变量让Python优先读取conda/pip安装的cudatoolkit路径

2. 降级GCC版本 #

• Linux环境下安装GCC 7.5：sudo apt install gcc-7 g++-7
• 设置默认编译器版本：

  sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-7 100
  sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-7 100
  

3. 强制TensorFlow绑定GPU #

即使检测到GPU，TF有时会默认 fallback 到CPU，可通过代码强制指定：

import tensorflow as tf
# 仅启用GPU设备
gpu_devices = tf.config.list_physical_devices('GPU')
if gpu_devices:
    tf.config.set_visible_devices(gpu_devices[0], 'GPU')
# 验证绑定结果
print("可用GPU:", tf.config.list_physical_devices('GPU'))
print("当前使用设备:", tf.test.gpu_device_name())

4. 确认MX110算力兼容性 #

MX110的算力为5.0，TF2.4.1理论支持算力3.5及以上的GPU，若上述步骤无效，可尝试从源码编译TF并指定--cuda-compute-capabilities=5.0，确保针对该GPU优化。

内容的提问来源于stack exchange，提问作者fattoun