TensorFlow语义分割模型冻结后结果不一致且移动端推理质量差

嘿，我之前也踩过类似的语义分割模型部署坑，咱们一步步拆解你的问题：

核心问题分析 #

你现在的情况有两个关键异常点：

1. 同一checkpoint每次冻结导出的模型，输出结果却不同——这大概率是模型权重没正确加载，用了随机初始化的参数
2. 移动端推理质量远差于服务器端——要么是冻结过程出了问题，要么是预处理/推理精度和服务器端不一致

针对性解决方案 #

1. 先确认预训练权重是否真的加载成功 #

看你贴的代码片段，sess.run(init)之后，有没有执行权重加载的代码？如果只初始化了全局变量但没从ckpt里恢复权重，那模型用的是随机初始化的参数，自然每次冻结结果都不一样！

补全权重加载的关键步骤：

# 初始化全局变量后，创建Saver并加载预训练权重
saver = tf.train.Saver()
ckpt = tf.train.get_checkpoint_state(model_path)
if ckpt and ckpt.model_checkpoint_path:
    saver.restore(sess, ckpt.model_checkpoint_path)
    # 可以打印一个关键层的权重值验证，比如conv6_cls的第一个权重
    print("权重加载成功，conv6_cls首个权重值：", sess.run(net.layers['conv6_cls'].weights[0][0][0][0]))
else:
    raise ValueError("找不到有效的checkpoint文件！")

注意：如果你的模型有自定义层或者新增的变量，要在Saver里指定var_list，只加载预训练的变量，避免加载失败。

2. 对齐冻结前后的预处理逻辑 #

服务器端推理和导出脚本的预处理必须完全一致，哪怕是均值、方差的微小差异，都会导致分割结果混乱。比如：

• 确认图像归一化方式：是(img/255.0 - mean)/std还是直接img/255.0？两边要完全匹配
• 通道顺序：TensorFlow默认是RGB，但有些训练脚本可能转成了BGR，导出和移动端推理必须统一
• Resize方式：训练时用的是resize_bilinear还是其他？冻结图里的resize操作要和推理时一致

你可以在服务器端分别用冻结前的模型和冻结后的模型跑同一张图，对比预处理后的tensor值，如果不一样，就说明预处理环节出问题了。

3. 用官方工具冻结图，避免手动操作出错 #

手动构建图然后保存很容易遗漏变量转换，建议用TensorFlow官方的freeze_graph.py工具来冻结，确保所有变量都转换成常量：

python freeze_graph.py \
  --input_graph=./your_raw_graph.pb \
  --input_checkpoint=./your_ckpt.ckpt \
  --output_graph=./frozen_inference_graph.pb \
  --output_node_names=output \
  --input_binary=false

冻结后可以用TensorBoard查看图结构，确认没有未初始化的变量节点，尤其是BatchNorm的moving_mean和moving_variance，这些训练时更新的参数必须被正确转换成常量。

4. 排查移动端推理的精度问题 #

移动端常用FP16或INT8量化，如果冻结图时没考虑量化，或者量化校准不到位，会导致精度丢失：

• 先尝试用FP32精度的冻结图在移动端运行，如果质量恢复，说明是量化的问题
• 如果要做量化，必须用校准数据集跑一遍，让模型适应量化范围，避免直接量化导致的精度暴跌
• 确保移动端推理时的输入dtype和服务器端一致，比如都是tf.float32

快速排查流程 #

1. 先在服务器端验证冻结前的模型：加载ckpt后跑测试图，确认结果和训练时一致
2. 冻结图后，在服务器端用冻结图跑同一张测试图，对比结果是否和冻结前一致——如果不一致，问题出在冻结过程
3. 如果服务器端冻结图结果正常，再到移动端运行，对比预处理后的输入tensor是否和服务器端一致，逐步定位问题

内容的提问来源于stack exchange，提问作者Joel Teply