OpenCV中使用YOLO检测模型时是否支持自定义设置批量大小？

可以设置批量大小，但你当前使用的高层封装detect()接口默认不支持批量输入，需要更换低层级接口或者升级OpenCV版本实现，具体说明如下：

为什么当前detect()接口不支持批量输入 #

• cv2.dnn_DetectionModel提供的detect()是面向单图检测的封装接口，没有暴露批量配置参数，仅支持单张图像输入，无法直接传入多张图像执行批量检测。

实现批量检测的两种方案 #

方案1：使用底层DNN接口手动实现（兼容所有OpenCV版本）

• 直接通过cv2.dnn.readNetFromDarknet(cfg, weights)加载模型，或者从已初始化的dnn_DetectionModel对象中取出底层Net对象
• 调用cv2.dnn.blobFromImages接口生成批量输入Blob，入参为待检测的图像列表，直接生成维度为(batch_size, 3, input_height, input_width)的批量输入：
  blob = cv2.dnn.blobFromImages(img_list, scalefactor=1/255.0, size=(640, 640), swapRB=True, crop=False)
• 给网络设置输入后执行推理：

net.setInput(blob)
output_layers = net.getUnconnectedOutLayersNames()
batch_outputs = net.forward(output_layers)

• 遍历batch_outputs中每个batch对应的输出结果，分别执行置信度过滤、NMS、坐标还原，即可得到每张图像的检测结果。

方案2：升级OpenCV到4.6及以上版本，使用官方批量检测接口

• 4.6以上版本的dnn_DetectionModel已经新增了detectBatch原生接口，直接传入图像列表即可实现批量检测，无需手动处理前后逻辑：
  classes, confidences, boxes = net.detectBatch(img_list, confThreshold=0.5, nmsThreshold=0.4)

相关注意事项 #

• 你使用的YOLO配置文件（.cfg）中的batch参数需要和实际输入的批量大小匹配，否则会出现推理报错
• 批量处理仅能提升单位时间的图像处理总量（吞吐量），不会降低单张图像的端到端检测延迟，如果你的核心需求是加快单张检测速度，批量处理无法满足预期，建议尝试降低模型输入分辨率、使用量化后的YOLO模型。

内容的提问来源于stack exchange，提问作者Josh Brown Kramer