LibTorch应用运行时加载CUDA stub库致GPU无法识别求助

问题根源 #

编译时加载了CUDA 11.8模块，导致链接器优先绑定了CUDA Toolkit目录下的stub版本libcuda.so.1（仅用于编译占位，无实际CUDA驱动功能），而非服务器上真实的NVIDIA驱动库；同时libnvToolsExt.so.1依赖CUDA Toolkit的库文件，卸载模块后会缺失依赖。

解决方案 #

1. 运行时强制加载真实驱动库 #

执行程序前，通过LD_LIBRARY_PATH将真实驱动库目录置于搜索路径最前端，同时保留CUDA Toolkit的库目录以解决libnvToolsExt.so.1依赖：

# 替换为你实际的CUDA Toolkit路径（即module加载的cuda-11.8所在目录）
export CUDA_TOOLKIT_PATH=/path/to/cuda-11.8
# 设置库路径：真实驱动库优先，再加载CUDA Toolkit的库
export LD_LIBRARY_PATH=/opt/NVIDIA/NVIDIA-Linux-x86_64-460.73.01/lib64:$CUDA_TOOLKIT_PATH/lib64:$LD_LIBRARY_PATH
# 运行你的程序
./your_app_executable

注意：你提供的驱动路径末尾是32/，但x86_64服务器对应64位库目录通常为lib64，请确认实际路径是否正确；若确实为32位库则保留原路径。

2. 编译阶段避免链接stub库 #

修改项目的CMakeLists.txt，在链接阶段优先指向真实驱动库：

# 原有的LibTorch配置保持不变
find_package(Torch REQUIRED)
add_executable(your_app_name your_source.cpp)
target_link_libraries(your_app_name PRIVATE ${TORCH_LIBRARIES})

# 添加真实驱动库的链接目录
link_directories(/opt/NVIDIA/NVIDIA-Linux-x86_64-460.73.01/lib64)
# 手动链接真实的CUDA驱动库，覆盖stub版本
target_link_libraries(your_app_name PRIVATE cuda)

重新编译后，用ldd检查程序依赖，libcuda.so.1应指向真实驱动库路径而非stubs目录。

3. 持久化配置（可选） #

如果需要每次登录自动生效，可将LD_LIBRARY_PATH的设置添加到~/.bashrc或~/.profile文件：

echo 'export CUDA_TOOLKIT_PATH=/path/to/cuda-11.8' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/opt/NVIDIA/NVIDIA-Linux-x86_64-460.73.01/lib64:$CUDA_TOOLKIT_PATH/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc

内容的提问来源于stack exchange，提问作者velenos14