为何ML.NET图像分类在Ampere GPU上返回固定结果，CPU及Turing GPU正常？

针对你遇到的ResnetV250在Ampere架构GPU上GPU模式返回固定值的问题，nvcc构建PTX的兼容性问题确实是可能原因之一，但还有其他更关键的排查方向：

1. 优先确认CUDA版本对Ampere的支持性 #

Ampere架构（如RTX30/40系列、A100）要求CUDA 11.0及以上版本，CUDA 10.1并不支持Ampere的sm_80/sm_86计算架构。即使你安装了对应版本的CUDA，需要确认实际运行环境的CUDA版本是否正确：

• 用nvcc --version检查系统级CUDA版本
• 查看深度学习框架的CUDA编译版本（比如PyTorch用torch.version.cuda，TensorFlow用tf.sysconfig.get_build_info()）
  如果框架是基于CUDA10.1编译的，即使系统装了高版本CUDA，也无法适配Ampere GPU，会导致算子计算异常。

2. PTX生成与架构适配问题 #

nvcc会针对目标GPU架构生成特定的SASS代码，若原模型是在CUDA10.1环境下编译的，生成的PTX仅支持sm_75及以下架构（对应Turing及更早GPU）。Ampere GPU会对旧PTX进行JIT编译，但这个过程可能出现兼容性bug，导致计算逻辑错误，最终返回固定值。解决方式：

• 升级CUDA到11.0+版本后，重新编译模型的自定义算子（如果有的话）
• 若使用预训练模型，确保下载的是支持Ampere架构的版本，或在新环境下重新导出模型

3. 清除Compute缓存 #

首次构建的Compute缓存可能存在异常，尝试删除缓存目录后重新运行：

• Linux：删除~/.nv/ComputeCache
• Windows：删除C:\Users\<你的用户名>\AppData\Local\NVIDIA\ComputeCache

4. 验证GPU基础计算功能 #

先排除GPU硬件/驱动的基础问题，运行一个简单的GPU计算任务：

# PyTorch示例
import torch
a = torch.randn(2, 3).cuda()
b = torch.randn(3, 2).cuda()
print(a @ b)

# TensorFlow示例
import tensorflow as tf
a = tf.random.normal((2,3))
b = tf.random.normal((3,2))
print(tf.matmul(a, b))

如果这个计算结果正常，说明GPU基础功能没问题，问题集中在模型的兼容性上。

5. 检查模型权重加载的一致性 #

虽然CPU运行正常，但GPU加载权重时可能出现精度对齐或内存布局问题：

• 对比CPU和GPU上加载的某一层权重数值是否一致
• 尝试将模型在Ampere GPU上重新保存后再加载运行

总结 #

最可能的核心原因是原模型的编译环境（CUDA10.1）不支持Ampere架构，导致PTX JIT编译时出现计算错误。建议优先升级CUDA到11.0及以上版本，同时匹配支持Ampere的深度学习框架版本，重新处理模型后再测试。

内容的提问来源于stack exchange，提问作者Ross Halliday