关于TFLite模型均值、标准差获取API及相关问题咨询

1. 获取任意TFLite模型均值、标准差的方式、对应API及存储位置 #

TFLite格式本身没有强制要求内置归一化用的均值、标准差参数，不存在能直接调取所有TFLite模型这两类参数的通用API。

• 符合TensorFlow Lite Model Metadata规范的模型：这两个参数存储在输入张量的NormalizationOptions元数据字段中，可以通过TFLite Support Library的对应接口读取，Python端调用示例为MetadataDisplayer.with_model_file("your_model.tflite")，拿到元数据对象后遍历输入张量的预处理参数即可获取数值。
• 无元数据的普通TFLite模型：这两类参数不会存储在模型文件内，没有API可直接读取，只能通过查询模型对应的训练文档、开源训练代码获取。

2. 确定输入数据归一化对应数值的方法、运行时获取可行性 #

确定归一化数值的优先级如下：

1. 优先查询模型对应的官方说明文档、训练脚本，预处理逻辑一般会明确标注归一化参数，比如常用的图像类模型有两类主流配置：归一化到[-1,1]时对应mean=127.5, std=127.5，归一化到0均值1标准差时对应mean=[123.675, 116.28, 103.53], std=[58.395, 57.12, 57.375]。
2. 带元数据的模型可以直接读取NormalizationOptions字段的数值。

运行时获取的支持情况：只有带完整元数据的模型支持运行时读取，无需在推理代码里硬编码参数；无元数据的模型不支持运行时获取，只能提前把参数写死在推理逻辑中。

3. 修改均值、标准差的适用操作环节 #

三个阶段都可以操作，适用场景不同：

• 训练阶段：属于根源修改的最稳妥方案，调整训练预处理的归一化参数后重新训练模型，再导出转换为TFLite即可，不会出现训练、推理预处理不一致导致的精度下降问题。
• 转换阶段：仅支持修改TFLite元数据中存储的NormalizationOptions数值，不会改动模型本身的计算逻辑，仅适合元数据标注错误的修正场景，如果实际归一化逻辑和训练时不一致，会出现精度异常。
• 推理阶段：直接修改推理代码里的预处理归一化计算参数即可，适合临时测试不同归一化配置的效果，正式上线使用不推荐，很容易出现预处理和训练不匹配的问题。

内容的提问来源于stack exchange，提问作者Pranathi