如何从TFLite模型中提取BatchNorm的均值和方差？

当Conv2d和FusedBatchNorm融合后，TFLite通常会将BN的参数（均值、方差、gamma、beta）合并到Conv的权重和偏置中，但仍有几种方式可以获取这些参数：

1. 使用TensorFlow Lite模型分析器查看内部张量 #

直接用官方的模型分析器命令，它会输出模型中所有张量的详细信息，包括Interpreter.get_tensor_details()无法返回的内部常量张量：

python -m tensorflow.lite.tools.model_analyzer --model_path=你的模型路径.tflite

在输出结果中，搜索包含FusedBatchNorm或BatchNorm相关的张量名称（比如mean、variance、gamma、beta），这些张量的值就是你需要的参数。

2. 用Netron可视化工具查看并导出参数 #

Netron可以直观展示TFLite模型的完整结构，包括所有内部节点和常量张量：

• 打开Netron（网页版或桌面版均可），导入你的TFLite模型
• 找到融合了BN的Conv2d节点，查看它的输入分支，通常会关联到存储均值、方差、gamma、beta的常量张量
• 点击这些常量张量，就能查看具体数值，还可以导出为数组文件

3. 从融合后的Conv参数反推原始BN参数 #

如果模型已经完全合并参数，无法直接找到原始BN张量，可以通过融合公式反推：
融合后的Conv权重W'和偏置b'与原始参数的关系为：

W' = W * gamma / sqrt(variance + epsilon)
b' = beta + (原始Conv偏置b - mean) * gamma / sqrt(variance + epsilon)

如果原始Conv没有偏置（即b=0），公式简化为：

b' = beta - mean * gamma / sqrt(variance + epsilon)

若能获取gamma和beta（通常这两个参数可能仍以常量形式存在于模型中），结合融合后的W'和b'，可以反推出mean和variance。注意这里需要知道融合时使用的epsilon值（通常默认是1e-5）。

内容的提问来源于stack exchange，提问作者HHL