TF-Detect Android Demo中优化后自定义ssd_mobilenet_v1_coco模型异常排查
我来帮你拆解这个问题——你遇到的核心矛盾是优化后的模型在本地能正常输出，但集成到Android Demo后既无屏幕输出又检测结果错误，而未优化的模型却能正常运行，这大概率是图优化过程中踩了TensorFlow Mobile的兼容性坑，下面是具体的排查方向和解决步骤：
1. 优先排查量化权重的兼容性问题
你用的quantize_weights转换是最可能的诱因：TensorFlow Mobile对量化模型的支持有严格的版本和结构限制，尤其是如果你的Demo依赖的TF Mobile版本（比如旧的1.x分支）和你训练/优化模型用的TF版本（比如2.x）不一致时，量化后的模型结构会出现兼容性问题。
测试步骤：
先去掉quantize_weights这个转换，只保留Batch Norm折叠，重新生成优化模型：
bazel-bin/tensorflow/tools/graph_transforms/transform_graph \ --in_graph=frozen_inference_graph.pb \ --out_graph=optimized_inf_graph_no_quant.pb \ --inputs='image_tensor' \ --outputs='detection_boxes detection_scores detection_classes num_detections' \ --transforms='fold_batch_norms fold_old_batch_norms'
把这个模型集成到Demo中测试：
- 如果能正常运行，说明量化是问题根源，此时建议你考虑迁移到TensorFlow Lite（TF Mobile已逐渐被TF Lite取代，TF Lite的量化支持更稳定且适配Android场景）；
- 如果还是有问题，再往下排查Batch Norm折叠的影响。
2. 检查输入输出节点的匹配性
优化后的模型可能会悄悄改变节点的名称、数据类型或张量形状，和Demo中的代码逻辑不匹配：
- 比如
image_tensor原本是uint8类型，量化后可能变成int8，但Demo代码仍然按uint8处理输入，导致检测逻辑崩溃； - 或者
detection_classes原本输出float32类型的类别ID，优化后变成int8，Demo解析结果时类型不匹配，导致无输出。
验证方法：
用TensorBoard对比优化前后的模型结构：
python tensorflow/python/tools/import_pb_to_tensorboard.py --model_dir=frozen_inference_graph.pb --log_dir=./log/original python tensorflow/python/tools/import_pb_to_tensorboard.py --model_dir=optimized_inf_graph.pb --log_dir=./log/optimized
启动TensorBoard后，重点检查：
image_tensor的输入形状、数据类型；- 四个输出节点（
detection_boxes/detection_scores/detection_classes/num_detections）的输出类型和形状是否和原模型一致。
3. Batch Norm折叠的潜在风险
fold_batch_norms和fold_old_batch_norms这两个转换对自定义训练的模型可能产生意外影响：
- 如果你的模型训练时用了动态Batch Size，或者Batch Norm层的
trainable参数设置特殊，折叠时可能会破坏层的计算逻辑； - 部分自定义训练的SSD模型，Batch Norm层的参数和原生ssd_mobilenet_v1_coco有差异，折叠后会导致特征提取错误。
测试步骤：
先完全去掉Batch Norm折叠，只保留最基础的优化（或者不优化），看模型是否能正常运行：
bazel-bin/tensorflow/tools/graph_transforms/transform_graph \ --in_graph=frozen_inference_graph.pb \ --out_graph=optimized_inf_graph_minimal.pb \ --inputs='image_tensor' \ --outputs='detection_boxes detection_scores detection_classes num_detections' \ --transforms=''
如果这个极简优化的模型正常，再逐个添加fold_batch_norms、fold_old_batch_norms，每次添加后测试，定位到具体哪个转换出了问题。
4. 确认Demo的模型加载逻辑
Demo中使用TensorFlowInferenceInterface加载模型的代码，可能没有处理优化后模型的特殊结构：
- 比如量化模型需要额外初始化量化参数，但Demo代码没有做这一步；
- 或者输入输出节点的名称在优化后发生了细微变化（比如多了后缀），但Demo仍然用原名称调用，导致无法获取检测结果。
检查点：
打开Demo中加载模型的代码（通常是DetectorActivity或类似类），确认：
- 输入节点名称
image_tensor和优化后模型的节点名称完全一致； - 输出节点的四个名称和优化后模型的节点名称完全匹配；
- 如果是量化模型，是否调用了对应的初始化方法（比如
enableQuantization之类的接口）。
内容的提问来源于stack exchange，提问作者Krishnendu S. Kar
