OpenCV DNN读取含DepthToSpace层的ONNX模型报错解决方案问询

问题根因说明 #

你遇到的问题确实是OpenCV DNN模块的版本兼容性问题：OpenCV 4.5.3的DNN模块原生不支持DepthToSpace层，且对动态Shape、Gather操作的支持有严格限制，仅支持常量索引的Gather操作。另外补充两个报错的原因：

• 读取pb文件报错是文件路径错误或pb文件导出流程不正确，OpenCV本身支持加载TensorFlow冻结pb模型
• h5是Keras专属的权重/模型格式，OpenCV DNN原生不支持直接读取该格式，所以会提示无法识别框架

可行解决方案 #

方案1：升级OpenCV版本（成本最低） #

• OpenCV从4.6.0版本开始正式对ONNX的DepthToSpace层提供原生支持，直接升级到4.6.0及以上版本，不需要修改模型结构，原有导出的ONNX文件可以直接用cv::dnn::readNetFromONNX加载
• 若必须保留4.5.3版本，可以自行从OpenCV官方仓库cherry-pick对应DepthToSpace层的实现代码，重新编译OpenCV即可

方案2：修改模型适配OpenCV 4.5.3限制 #

你之前手动实现DepthToSpace触发Gather报错，是因为代码中用到了动态Shape（tf.shape(x)），导出后会生成动态索引的Gather节点触发OpenCV断言。只需要把所有Shape操作替换为静态固定尺寸即可：

• 若模型的输入尺寸、上采样倍率bs都是固定值，直接把reshape的参数写死为常量，不要用tf.shape读取动态尺寸，参考代码：

bs = 2 # 替换为实际的上采样倍率
input_h = 128 # 替换为实际的输入高度
input_w = 128 # 替换为实际的输入宽度
out_c = c // (bs ** 2) # 提前计算好输出通道数

y = tf.reshape(x, (-1, input_h, input_w, bs, bs, out_c))
y = tf.transpose(y, (0, 1, 3, 2, 4, 5))
outputs = tf.reshape(y, (-1, input_h * bs, input_w * bs, out_c))

• 导出ONNX时指定opset为11及以上，tf2onnx会自动把静态操作折叠为常量，不会生成Gather节点

方案3：使用替代推理框架 #

如果不想修改OpenCV或者模型，可以换用其他原生支持TensorFlow/ONNX的C++推理框架：

• TensorFlow C++ API：直接加载原生保存的SavedModel格式，推理逻辑和Python端完全一致，不会有算子不兼容问题
• ONNX Runtime C++：原生支持所有ONNX算子，直接加载已导出的ONNX文件即可，不需要修改模型，推理性能也优于OpenCV DNN

内容的提问来源于stack exchange，提问作者Igor Ševo