基于SSD-InceptionV2的自定义模型转OpenVINO IR失败求助（RPi+NCS2）

看起来你在把自定义SSD-InceptionV2模型转成OpenVINO IR格式、部署到树莓派+NCS2时踩了不少坑，我结合TensorFlow Object Detection API和OpenVINO的使用经验，给你梳理下可能的问题和解决办法：

1. 输入形状错误与TopKV2节点形状推断失败 #

你添加--input_shape [1,299,299,3]后出现Cannot infer shapes or values for node "Postprocessor/BatchMultiClassNonMaxSuppression/MultiClassNonMaxSuppression/SortByField/TopKV2"，这通常是因为自定义模型的NMS层参数和OpenVINO的SSD配置不匹配，或者冻结模型时保留了动态维度导致的。

可以按以下步骤排查：

• 检查你的pipeline.config文件，确保num_classes、max_detections_per_class、max_total_detections这些参数是固定数值，不能是动态变量——OpenVINO的Model Optimizer（MO）没法处理动态的NMS参数。
• 冻结模型时，别手动用freeze_graph.py，一定要用TensorFlow Object Detection API官方的export_inference_graph.py脚本，并且指定固定输入形状，比如：

  python export_inference_graph.py --input_type image_tensor --pipeline_config_path pipeline.config --trained_checkpoint_prefix model.ckpt-XXXX --output_directory exported_model --input_shape 1,299,299,3
  

  这里的model.ckpt-XXXX要替换成你实际训练的checkpoint文件名（比如model.ckpt-10000），这样导出的冻结.pb会固化所有维度，避免动态维度引发的形状推断问题。
• 转换IR时，不要同时用--input_shape和--tensorflow_object_detection_api_pipeline——后者会自动从config文件读取输入形状。建议只保留--tensorflow_object_detection_api_pipeline，同时确保config里的image_resizer部分明确设置为299x299：

  image_resizer {
    fixed_shape_resizer {
      height: 299
      width: 299
    }
  }
  

2. 重新冻结模型后节点数为0的错误 #

这个问题基本是冻结模型的方式不对，或者checkpoint和graph定义不匹配导致的：

• 放弃手动冻结操作，严格使用export_inference_graph.py脚本——它会自动处理checkpoint和graph的匹配逻辑，生成正确的推理用冻结图。
• 确认--trained_checkpoint_prefix参数指向的是完整的checkpoint前缀（比如model.ckpt-10000），而不是只写model.ckpt，否则脚本会找不到正确的权重文件。

3. 转换graph.pbtxt时节点数为1的错误 #

graph.pbtxt是未冻结的训练图定义，里面包含大量训练相关的节点（比如优化器、损失计算节点），OpenVINO的MO工具根本没法直接转换这种文件。你必须转换的是经过export_inference_graph.py导出的frozen_inference_graph.pb——也就是专门用于推理的冻结图。

额外实用建议 #

• 尽量用最新版本的OpenVINO Model Optimizer，老版本对SSD-V2的支持可能存在bug。如果树莓派上的OpenVINO版本较老，建议先在x86机器上用最新版MO转换好IR文件，再传到树莓派使用。
• 转换时加上--verbose参数，能看到详细的报错日志，帮你精准定位哪个节点出了问题，命令示例：

  python3 /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/mo_tf.py --input_model frozengraph.pb --tensorflow_use_custom_operations_config /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/extensions/front/tf/ssd_v2_support.json --tensorflow_object_detection_api_pipeline "PATH"/pipeline.config --reverse_input_channels --data_type FP16 --verbose
  

• 确认你的自定义模型是基于标准SSD-InceptionV2-V2结构（也就是以官方ssd_inception_v2_coco.config为模板修改的），因为ssd_v2_support.json只适配特定的SSD-V2节点结构，自定义变体可能不兼容。

最后再给你理一遍正确的流程：

1. 用export_inference_graph.py导出冻结推理图，指定固定输入形状；
2. 确保pipeline.config里的NMS参数、输入尺寸都是固定值；
3. 用MO工具转换时，依赖config文件而非手动指定输入形状，搭配对应的SSD-V2配置文件。

内容的提问来源于stack exchange，提问作者user2932481