LibTorch CUDA报错：无可用内核镜像适配设备问题咨询

核心报错原因 #

CUDA error: no kernel image is available for execution on the device 本质是LibTorch的预编译内核镜像不支持你的RTX 5060 Ti显卡的CUDA计算能力。RTX 5060 Ti属于Ada Lovelace架构，对应CUDA计算能力代号为sm_89，如果你的LibTorch预编译包没有包含针对该架构的内核，就会触发这个报错。

具体解决步骤 #

• 修正LibTorch与CUDA环境的匹配性

  • 你同时安装了CUDA 12.6和11.8的NVXX，容易引发环境变量冲突，导致LibTorch调用不兼容的CUDA库。建议清理系统环境变量，仅保留CUDA 12.6的bin、include、lib路径。
  • 确认下载的LibTorch包：必须是适配CUDA 12.x且支持sm_89架构的预编译版本。如果官方预编译包未包含sm_89内核，需要从源码编译LibTorch，编译时指定TORCH_CUDA_ARCH_LIST="8.9"来生成对应架构的内核文件。

• 必须安装对应版本的CuDNN

  • 是的，需要安装与CUDA 12.6匹配的CuDNN。LibTorch依赖CuDNN实现CUDA加速，缺少该库会直接导致内核加载失败，安装后需将CuDNN的bin、include、lib/x64路径添加到系统环境变量。

• 显卡硬件无问题

  • RTX 5060 Ti完全支持CUDA运算，报错与显卡硬件无关，仅为软件层面的架构匹配问题。

• 检查Visual Studio项目配置

  • 在项目属性中，将CUDA的目标架构设置为sm_89（或包含该架构）；链接器输入需正确添加LibTorch的库文件，运行时确保LibTorch、CUDA、CuDNN的DLL文件可被程序正常调用。

内容的提问来源于stack exchange，提问作者Mich