tensorflow-gpu仅识别XLA-CPU无法识别Tesla V100 GPU如何解决

1 先排查Windows Server 2019的Tesla V100基础配置 #

• 确认安装的是Tesla专用的Windows Server驱动，而非消费级GeForce显卡驱动。Tesla V100需手动开启计算模式：打开NVIDIA控制面板，进入「管理3D设置」，全局设置中开启「CUDA - 通用计算模式」，同时关闭「WDDM GPU调度」选项（Windows Server默认可能强制开启，需通过组策略或注册表禁用）。
• 执行nvidia-smi命令，确认输出可正常识别Tesla V100、显示CUDA驱动版本，驱动版本必须高于对应CUDA toolkit的最低要求：CUDA 10.1要求驱动≥418.x，CUDA 11.2要求≥450.x，CUDA 11.5要求≥495.x。
  如果nvidia-smi无法识别显卡，优先解决驱动层面问题，无需排查框架版本。

2 确认CUDA、cuDNN、TensorFlow、Keras版本严格匹配 #

• Keras 2.x的GPU加速完全依赖对应版本的tensorflow-gpu，必须严格遵循版本对应关系，以下是经过验证、支持Tesla V100的Windows可用组合：
  • 组合1：CUDA 10.1 update2 + cuDNN 7.6.5（你之前使用的cuDNN 8.0.5与CUDA 10.1不兼容，这是核心问题之一） + tensorflow-gpu 2.3.0 + Keras 2.4.3
  • 组合2：CUDA 11.2.2 + cuDNN 8.1.0 + tensorflow-gpu 2.7.0 + Keras 2.7.0
• 安装前需完全卸载所有旧版本CUDA、cuDNN，删除系统环境变量中所有旧CUDA相关路径，重启后再安装新版本。cuDNN的bin、include、lib文件夹下的文件需对应复制到CUDA安装目录的同名文件夹内，同时确认CUDA的bin路径已添加到系统Path环境变量的靠前位置，避免优先级被其他版本覆盖。
• 不要安装CPU版本TensorFlow，卸载所有已有的tensorflow、tensorflow-gpu包后，仅安装对应版本的tensorflow-gpu，Keras版本必须与TensorFlow版本完全一致，比如TensorFlow 2.7对应Keras 2.7，禁止跨版本安装。

3 额外Windows Server兼容性配置 #

• 打开Windows Server「服务器管理器」，确认已安装「桌面体验」功能，缺少该功能会导致NVIDIA驱动的CUDA组件无法正常加载。
• 如果你通过远程桌面连接服务器操作，需关闭远程桌面GPU重定向：运行gpedit.msc，转到 计算机配置>管理模板>Windows组件>远程桌面服务>远程桌面会话主机>远程会话环境，禁用「将硬件图形适配器用于所有远程桌面服务会话」选项，重启服务器后再测试。
• 如果你使用conda环境安装，确认虚拟环境的Path优先级高于系统全局的CUDA路径，避免环境冲突。

配置完成后重启设备，再运行设备检测代码，正常会输出Tesla V100的GPU设备信息。

内容的提问来源于stack exchange，提问作者XMaSt3R