嘿，我来帮你理清这个问题——你其实没找对OpenCV DNN启用CUDA的正确方式，而且编译带CUDA支持的OpenCV的价值远不止DNN模块哦。下面一步步帮你解决：

1. 启用CUDA后端的正确代码 #

加载YOLOv3模型后，你需要额外设置两个关键参数：推理后端和目标计算设备。直接修改你的代码如下：

import cv2

# 加载YOLOv3配置和权重
net = cv2.dnn.readNetFromDarknet('yolov3.cfg', 'yolov3.weights')

# 指定用CUDA作为推理后端，目标设备为GPU
net.setPreferableBackend(cv2.dnn.DNN_BACKEND_CUDA)
net.setPreferableTarget(cv2.dnn.DNN_TARGET_CUDA)

# 接下来进行正常的推理流程，比如生成blob并执行forward
# blob = cv2.dnn.blobFromImage(...)
# net.setInput(blob)
# outputs = net.forward(...)

这里DNN_BACKEND_CUDA是告诉OpenCV底层用CUDA来执行推理，DNN_TARGET_CUDA指定计算设备为GPU。如果你的显卡支持半精度计算（比如较新的Turing/Ampere架构），可以换成DNN_TARGET_CUDA_FP16来获得更快的速度，但你的GT 710属于Kepler架构，半精度支持有限，建议先用DNN_TARGET_CUDA测试。

2. 编译带CUDA支持的OpenCV的核心意义 #

你疑惑编译CUDA支持的OpenCV有啥用，其实DNN模块只是其中一部分：

• GPU加速的基础CV函数：OpenCV提供了一整套cv::cuda命名空间下的函数，比如cv::cuda::resize、cv::cuda::GaussianBlur，这些都是对应CPU函数的GPU加速版本，适合处理大尺寸图像或批量任务。
• 视频流的GPU解码与处理：cv::cuda::VideoCapture可以利用GPU硬件加速视频解码，大幅提升实时视频处理的帧率。
• 其他模块的GPU支持：比如光流计算、特征匹配、图像分割等模块，都有对应的CUDA加速实现，能显著降低计算耗时。

3. 验证GPU是否被正确调用 #

修改代码后运行推理任务，再执行nvidia-smi：

• 如果配置正确，你会看到Python进程出现在Processes列表中，GPU利用率（GPU-Util）也会从0%上升。
• 如果还是没变化，先检查OpenCV的编译配置：运行print(cv2.getBuildInformation())，搜索CUDA和CUDNN相关项，确认WITH_CUDA=ON和WITH_CUDNN=ON（CUDNN能进一步加速DNN推理）。

另外，你的GT 710显存只有2GB，运行YOLOv3可能会有点吃力，建议尝试YOLOv3-tiny来测试GPU加速效果，避免显存不足的问题。

内容的提问来源于stack exchange，提问作者U.Swap