RTX4060笔记本Windows11环境下InsightFace无法启用CUDA加速求助

在搭载NVIDIA GeForce RTX 4060 Laptop GPU的Windows 11设备上运行InsightFace时，无法启用GPU加速，始终回退至CPUExecutionProvider执行。

环境信息 #

• OS：Windows 11
• GPU：NVIDIA GeForce RTX 4060 Laptop GPU
• 驱动版本：610.47
• CUDA UMD版本：13.3
• Python：3.14.5
• InsightFace：最新版本
• onnxruntime-gpu：1.25.1
• cuDNN：9.2.3

排查与解决步骤 #

1. 先验证ONNX Runtime GPU可用性 #

运行以下代码，确认onnxruntime-gpu是否能识别CUDA：

import onnxruntime as ort
print("可用执行提供者:", ort.get_available_providers())

如果输出里没有'CUDAExecutionProvider'，说明onnxruntime-gpu未正确关联CUDA环境，需要重新安装匹配版本。

2. 严格匹配CUDA、cuDNN与ONNX Runtime版本 #

ONNX Runtime和CUDA/cuDNN版本必须对应：

• ONNX Runtime 1.25.1仅支持CUDA 12.x版本，你当前用的CUDA 13.3不在适配范围内，这是核心问题。
• 解决方案二选一：
  • 降级CUDA到12.3，搭配cuDNN 8.9.x（对应CUDA 12.x的cuDNN版本）；
  • 升级onnxruntime-gpu到1.26.0及以上版本（该版本开始支持CUDA 13.x）。

3. 检查系统环境变量配置 #

确保CUDA和cuDNN的路径正确加入环境变量：

• 新增CUDA_PATH环境变量，指向CUDA安装目录（例如C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3）；
• 将%CUDA_PATH%\bin和%CUDA_PATH%\libnvvp添加到系统Path变量中；
• 把cuDNN的bin、include、lib文件夹内容分别复制到CUDA对应目录下，或直接将这些路径加入环境变量。

4. 显式指定InsightFace使用CUDA执行提供者 #

修改初始化代码，强制指定GPU执行提供者，避免自动回退到CPU：

import cv2
from insightface.app import FaceAnalysis
import onnxruntime as ort

# 显式配置优先使用CUDA
providers = ['CUDAExecutionProvider', 'CPUExecutionProvider']
app = FaceAnalysis(name='buffalo_l', providers=providers)
app.prepare(ctx_id=0, det_size=(640, 640))  # 固定检测尺寸，避免动态尺寸导致GPU兼容性问题

# 后续摄像头检测代码不变...

5. 检查GPU显存占用 #

确保没有其他程序（如游戏、其他AI模型）占用大量GPU显存，RTX 4060 Laptop GPU运行buffalo_l模型需要至少1GB左右空闲显存。可以通过任务管理器的「性能」标签查看GPU显存使用情况。

6. 重装依赖包清理缓存 #

卸载现有不兼容的依赖，重新安装匹配版本：

pip uninstall -y onnxruntime-gpu insightface
pip install onnxruntime-gpu==1.26.0 insightface

验证GPU是否启用 #

在初始化InsightFace后添加以下代码，确认执行提供者：

print("当前使用的执行提供者:", app.session.providers)

如果输出包含'CUDAExecutionProvider'，说明GPU加速已成功启用。

内容的提问来源于stack exchange，提问作者Vishavpreet Learner