我之前也碰到过类似的TFLite量化转换翻车情况，结合你给出的步骤，咱们可以从这几个方向逐一排查：

一、确认训练阶段伪量化节点的插入是否正确 #

• 一定要保证tf.contrib.quantize.create_training_graph()是在所有训练图结构构建完成之后、变量初始化之前调用的，训练全程不能重新构建图结构，否则伪量化节点会丢失。
• 评估阶段的tf.contrib.quantize.create_eval_graph()同样要放在评估图构建完成后调用，而且评估用的输入数据分布要和训练时一致——伪量化需要统计数据的min/max值，分布不匹配会导致后续转换出问题。

二、检查冻结PB文件的完整性 #

• 冻结PB时必须把所有伪量化相关的变量（比如记录张量min/max值的变量）都包含进去。你可以用tf.train.list_variables()工具检查 checkpoint 里的变量，确认伪量化相关的变量都存在，冻结时不要遗漏。
• 用TensorBoard加载冻结后的PB文件，查看图结构里是否存在FakeQuantWithMinMaxVars这类伪量化节点，确保它们没有被图优化步骤意外移除。

三、修正TOCO转换命令的参数 #

你给出的命令不完整，正确的量化转换命令需要明确指定关键参数，示例如下：

bazel-bin/tensorflow/contrib/lite/toco/toco \
  --input_file=model.pb \
  --output_file=model_quantized.tflite \
  --input_format=TENSORFLOW_GRAPHDEF \
  --output_format=TFLITE \
  --inference_type=QUANTIZED_UINT8 \
  --input_arrays=你的输入节点名称 \
  --output_arrays=你的输出节点名称 \
  --input_shapes=你的输入形状（比如1,224,224,3）

• 必须替换成你模型实际的输入输出节点名称和形状，TOCO找不到对应节点会直接报错。
• 如果模型包含自定义操作，TOCO默认不支持，这时候需要把自定义操作注册到TFLite的操作库中，或者替换为TFLite原生支持的操作。
• 确保Bazel版本和你的TensorFlow版本匹配，版本不兼容很容易导致TOCO转换失败，必要时可以重新编译TOCO或者使用TensorFlow官方预编译的TOCO工具。

四、其他排查方向 #

• 验证训练时伪量化是否生效：观察训练过程中的损失值变化，如果伪量化节点插入错误，损失可能会出现异常波动或者不收敛的情况。
• 如果转换时有具体报错信息（比如某操作不支持、变量找不到），可以针对性解决——比如替换不支持的操作，或者修正PB冻结的步骤。

内容的提问来源于stack exchange，提问作者Chaos