C# Emgu CV DNN模块如何启用CUDA实现GPU端模型推理计算
EmguCV 4.4.0 DNN调用GPU推理实现方案
前置环境检查
- 必须安装和EmguCV 4.4.0.4099匹配的依赖:官方4.4.0版本编译时使用的是CUDA 10.2 + cuDNN 7.6.5,版本不匹配会自动 fallback 到CPU运行,无报错提示
- 项目必须引用对应版本的CUDA runtime包:
Emgu.CV.runtime.windows.cuda版本必须和核心Emgu.CV包完全一致,不能使用普通CPU版runtime - 系统环境变量PATH中需包含CUDA的bin目录,确保程序运行时可以加载cuda runtime、cudnn等动态库
代码修改
仅需在模型初始化完成后,一次性设置推理后端和目标设备即可,无需修改推理逻辑:
private static Net _netModel = DnnInvoke.ReadNetFromDarknet("B:/yolov3.cfg.txt", "B:/yolov3.weights"); // 静态构造函数,类加载时执行一次GPU配置即可 static 你的实际类名() { // 指定使用CUDA作为推理后端 _netModel.SetPreferableBackend(DnnBackend.Cuda); // 指定推理计算目标为GPU _netModel.SetPreferableTarget(DnnTarget.Cuda); // 可选:如果显卡支持FP16半精度,可替换为下行代码,速度提升明显 // _netModel.SetPreferableTarget(DnnTarget.CudaFp16); } public static void DetectObjects(Bitmap bitmapImage) { Image<Bgr, byte> image; image = bitmapImage.ToImage<Bgr, byte>(); Mat input = DnnInvoke.BlobFromImage(image, 1 / 255.0, swapRB: true); _netModel.SetInput(input); Mat output = _netModel.Forward(); // 后续检测框解析、NMS逻辑保持原有实现不变 }
效果验证
- 运行程序执行推理时,打开任务管理器的GPU面板,查看CUDA占用率,执行
Forward方法时如果CUDA占用明显升高,说明GPU调用成功 - 如果仍为CPU运行,优先排查CUDA、cuDNN版本是否匹配,EmguCV CUDA runtime包版本是否对应,以及环境变量是否配置正确
内容的提问来源于stack exchange,提问作者KatterMaw
相关产品推荐
相关产品推荐

