AWS g5.xlarge实例运行PyTorch调用CUDA报错，求适配的CUDA/PyTorch版本

NVIDIA A10G属于安培架构GPU，对应的CUDA计算能力为sm_86，你当前安装的PyTorch版本编译时仅支持最高sm_70的CUDA算力，无法兼容A10G的架构，因此触发报错。

你的NVIDIA驱动版本为470.82.00，最高支持CUDA 11.4，可选择的适配组合如下：

• CUDA 11.3 + PyTorch 1.12.0及以上版本
• CUDA 11.4 + PyTorch 1.12.0及以上版本
• CUDA 11.6/11.7/11.8 + PyTorch 1.13.0及以上版本

以上版本的官方预编译包默认包含sm_86算力支持，无需自行从源码编译。

1. 先卸载当前环境中的旧PyTorch相关组件
   若使用pip安装，执行：
   pip uninstall torch torchvision torchaudio -y
   若使用conda安装，执行：
   conda uninstall pytorch torchvision torchaudio pytorch-cuda -y
2. 选择上述适配的版本组合，安装对应CUDA版本的PyTorch预编译包即可。
3. 安装完成后执行如下代码验证适配结果：

import torch
# 输出True说明CUDA可用
print(torch.cuda.is_available())
# 正常输出tensor无报错说明适配成功
print(torch.tensor(1., device="cuda"))

注意：你当前的显卡驱动已经满足所有上述版本组合的运行要求，无需额外升级驱动。

内容的提问来源于stack exchange，提问作者Yohann L.