源码编译PyTorch运行官方示例时出现cuDNN引擎查找错误

• 验证cuDNN在PyTorch中的加载状态
  执行以下命令确认PyTorch是否正确识别并启用了cuDNN：

  python -c "import torch; print('cuDNN version:', torch.backends.cudnn.version()); print('cuDNN enabled:', torch.backends.cudnn.enabled)"
  

  如果输出版本为空或enabled为False，说明编译时未正确链接cuDNN，需重新检查编译配置。

• 确认编译时的cuDNN检测与启用
  查看PyTorch编译日志，确认是否有类似Found cuDNN: v8.x.x的记录，且编译命令中指定了USE_CUDNN=ON（默认开启，手动指定更保险）。若编译时未检测到cuDNN，需先将cuDNN路径加入环境变量：

  export CUDNN_INCLUDE_DIR=/path/to/cudnn/include
  export CUDNN_LIB_DIR=/path/to/cudnn/lib64
  export LD_LIBRARY_PATH=$CUDNN_LIB_DIR:$LD_LIBRARY_PATH
  

  清理缓存后重新编译：

  rm -rf build/ dist/
  python setup.py install
  

• 检查版本兼容性
  确保cuDNN版本与CUDA 11.7适配（要求cuDNN 8.5.0及以上），同时PyTorch 2.0.1/2.1.0对cuDNN有最低版本要求（2.0.1要求cuDNN 8.1.0+，2.1.0要求8.2.1+）。若cuDNN版本过低，升级到兼容版本后重新编译。

• 指定GPU架构编译
  源码编译时若未指定目标GPU架构，可能导致针对你的GPU的优化算子缺失，引发引擎找不到的错误。根据你的GPU架构设置TORCH_CUDA_ARCH_LIST参数：

  • Ampere架构（30系/A100）：TORCH_CUDA_ARCH_LIST="8.0;8.6"
  • Ada Lovelace架构（40系）：TORCH_CUDA_ARCH_LIST="8.9"
  • 多架构兼容：TORCH_CUDA_ARCH_LIST="7.0;7.5;8.0;8.6;8.9"
    重新编译时带上该参数：

  TORCH_CUDA_ARCH_LIST="8.0" python setup.py install
  

• 临时禁用cuDNN排查
  运行官方示例前临时禁用cuDNN，验证是否能正常执行：

  export TORCH_BACKENDS_CUDNN_ENABLED=0
  python your_example.py
  

  或者在代码开头添加：

  import torch
  torch.backends.cudnn.enabled = False
  

  若禁用后能运行，说明问题确实出在cuDNN集成环节，回到前面步骤排查编译配置。

内容的提问来源于stack exchange，提问作者MANOS