Google Cloud A100 GPU VM无法调用CUDA问题排查求助

针对你遇到的a2-highgpu-1g实例GPU无法调用、torch.cuda.is_available()返回false且lshw -class display显示"display UNCLAIMED"的问题，按以下步骤排查：

一、账号与资源限制排查 #

• 登录GCP控制台，检查当前项目的GPU资源配额，确认是否因配额耗尽或账号限制导致GPU资源被回收
• 查看实例的IAM权限，确认当前账号仍拥有实例管理权限，无权限变更引发的资源访问限制
• 检查实例状态日志，确认是否存在后台自动暂停、资源调整等操作记录（即使手动保持开机，部分场景下可能因资源优化策略被调整）

二、驱动与硬件挂载排查 #

• 执行nvidia-smi命令，若返回"command not found"或驱动未加载错误，说明NVIDIA驱动未正常运行
• 检查NVIDIA内核模块状态：执行lsmod | grep nvidia，无输出则表示驱动模块未加载
• 若驱动异常，可使用GCP官方提供的GPU驱动安装脚本重装适配A100的驱动；若内核有更新，需安装与当前内核版本匹配的驱动
• 尝试重启实例，部分硬件挂载异常可通过重启恢复；重启后再次执行lshw -class display，查看设备是否被正常识别

三、CUDA与PyTorch兼容性检查 #

• 检查CUDA版本：执行nvcc --version，同时在Python环境中执行print(torch.version.cuda)，确认两者版本一致
• 检查环境变量：执行echo $PATH和echo $LD_LIBRARY_PATH，确认包含CUDA的安装路径（默认通常为/usr/local/cuda/bin和/usr/local/cuda/lib64）
• 若环境变量被覆盖，可手动添加：

  export PATH=/usr/local/cuda/bin:$PATH
  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
  

四、实例硬件状态验证 #

• 在GCP控制台的实例详情页，查看GPU设备的状态信息，确认GPU已正常挂载到实例中
• 若控制台显示GPU状态异常，可尝试停止并重新启动实例（注意保存实例内重要数据）

内容的提问来源于stack exchange，提问作者Marco Damon Akanō