使用optimize_for_inference和graph_transform后Inception V3重训练模型预测异常

我之前也遇到过几乎一模一样的情况，重训练的二分类、三分类模型在TensorFlow里预测完全正常，但转成适配OpenCV DNN的版本后就直接跑偏，大概率是预处理逻辑不匹配或者模型转换参数错误导致的，下面给你分步排查的方案：

1. 先搞定输入预处理（最容易踩坑的点） #

TensorFlow的Inception V3和OpenCV DNN的默认预处理逻辑差异很大，这是90%这类问题的根源：

• OpenCV读出来的图像是BGR通道，而TensorFlow训练/预测时用的是RGB，必须先转换通道：cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
• Inception V3要求像素值归一化到**[-1, 1]**，公式是(像素值 / 127.5) - 1，而OpenCV的blobFromImage默认是归一化到[0,1]。所以你要手动设置正确的参数：

  # 生成符合模型要求的输入blob
  blob = cv2.dnn.blobFromImage(
      img,
      scalefactor=1/127.5,  # 对应归一化的缩放因子
      size=(299, 299),      # Inception V3的标准输入尺寸，别误用224x224
      mean=(127.5, 127.5, 127.5),  # 均值偏移，配合scale实现[-1,1]归一化
      swapRB=True,          # 自动把BGR转成RGB
      crop=False
  )
  

  这个操作正好实现了(x - 127.5)/127.5 = x/127.5 -1，完全匹配TensorFlow的预处理要求。

2. 检查模型转换的输入输出节点是否正确 #

用optimize_for_inference或Graph Transform工具时，指定错误的输入输出节点会直接破坏模型结构：

• 先确认冻结图的输入输出节点名：可以用saved_model_cli show --dir ./你的模型目录 --all查看，或者在TensorBoard里可视化冻结图。TensorFlow for Poets生成的模型，输入节点一般是input，输出节点是final_result。
• 用optimize_for_inference时的正确命令示例：

  python tensorflow/python/tools/optimize_for_inference.py \
    --input=你的冻结图路径/frozen_graph.pb \
    --output=优化后的模型路径/optimized_graph.pb \
    --input_names=input \
    --output_names=final_result \
    --frozen_graph=True
  

• 用Graph Transform工具时，先只做strip_unused_nodes（别加量化之类的操作，先保证正确性）：

  bazel run tensorflow/tools/graph_transforms:transform_graph \
    --in_graph=你的冻结图路径/frozen_graph.pb \
    --out_graph=转换后的模型路径/transformed_graph.pb \
    --inputs='input' \
    --outputs='final_result' \
    --transforms='strip_unused_nodes(type=float, shape="1,299,299,3")'
  

  这里的shape必须和模型输入的shape一致，单张图预测就是1,299,299,3。

3. 排查转换过程中的精度损失 #

如果转换时用了量化（比如quantize_weights），很可能导致精度下降——尤其是二分类/三分类任务，原本细微的置信度差异会被量化抹平，结果直接偏向某一类。建议先去掉所有量化相关的变换，只做必要的节点裁剪，验证转换后的模型在TensorFlow里的预测结果是否和冻结图一致：

• 如果一致，那问题肯定在OpenCV的预处理或加载环节；
• 如果不一致，说明转换参数有问题，得调整变换规则。

4. 确认输入尺寸完全匹配 #

别手滑把输入尺寸设成224x224（那是VGG、ResNet的尺寸），Inception V3的标准输入是299x299，一定要在blobFromImage里明确指定size=(299,299)，不然输入尺寸不匹配，模型输出完全不可靠。

按照这个步骤逐一排查，应该能解决预测偏差的问题——我当时就是踩了BGR转RGB和归一化的坑，调整后结果就和TensorFlow里完全一致了。

内容的提问来源于stack exchange，提问作者Henok G.