模型本地准确率~95%上传至Edge Impulse后降至~25%的排查求助

一、推理框架兼容性验证 #

• 本地复刻Edge Impulse的推理环境测试：
  • 将本地模型转换为Edge Impulse使用的格式（如PyTorch/ONNX转TensorFlow Lite），用完全相同的测试集在本地运行转换后的模型，对比准确率。如果本地转换后的模型准确率也低，说明问题出在框架转换环节，而非平台本身。
  • 检查转换参数：确认输入输出张量的维度、数据类型与原模型一致（比如原模型用float32，转换时误启用int8量化却未提供校准数据集）。

二、量化与优化环节排查 #

• 关闭自动量化/优化后重新测试：
  • 在Edge Impulse部署页面选择无量化的导出选项（如原始TFLite模型），重新部署后验证准确率。若此时准确率恢复，说明量化过程导致精度丢失。
  • 若量化为必要步骤，尝试改用动态范围量化替代全整数量化，或上传与训练集分布一致的校准数据集优化量化效果。
• 检查平台优化设置：暂时关闭层裁剪、权重剪枝等操作，确认是否是这类优化破坏了模型关键特征。

三、预处理与数据增强细粒度核对 #

• 逐步骤对比预处理流程：
  • 打印本地预处理后的样本数据（如归一化后的特征值、像素值），再在Edge Impulse下载预处理后的测试样本，逐维度对比数值差异。哪怕是均值/标准差的小数点精度差异，都可能累积导致结果偏差。
  • 核对数据增强细节：对比本地与平台的增强参数，比如随机裁剪的范围、翻转概率、颜色抖动幅度等。可暂时关闭两边的增强，用原始测试集验证准确率是否对齐。

四、模型上传与部署细节验证 #

• 确认模型文件完整性：
  • 计算本地模型文件的哈希值（如用md5sum model.tflite命令），再下载Edge Impulse上已上传的模型，对比哈希值是否一致，排除文件上传损坏的可能。
  • 检查输入输出匹配度：确认模型的输入节点形状、名称与Edge Impulse数据集的输入格式完全匹配（比如平台要求输入为(1, 28, 28, 1)，模型输入却为(1, 28, 28, 3)，会导致数据错乱）。

五、单样本推理对比验证 #

• 用单个样本跨环境对比：
  • 挑选本地能正确分类的样本，上传到Edge Impulse测试界面，对比两边输出的类别概率分布。如果差异极大，说明平台上的推理逻辑存在异常。
  • 检查平台是否对测试样本施加了额外预处理：比如默认进行了图像resize、颜色空间转换，而本地未执行这些操作。

内容的提问来源于stack exchange，提问作者Santi