Android端TFLite同模型预测与Python不符且输出NaN求助

1. 最直接触发NaN的根因：ByteBuffer字节序不匹配 #

Android 平台ByteBuffer默认使用大端序（BIG_ENDIAN），但 TFLite 的TensorBuffer加载FLOAT32类型输入时，是按照设备原生的小端序（LITTLE_ENDIAN）解析二进制位的。
没有手动指定字节序的情况下，写入的float值会被解析成完全错误的二进制位，大概率是取值极大的无效值、甚至非数的位模式，经过网络层计算后触发数值溢出，最终softmax层计算得到inf / inf的NaN结果，和你遇到的现象完全吻合。
修复方式：初始化ByteBuffer后立刻补充字节序设置：

ByteBuffer bmpByteBuf = ByteBuffer.allocate(1 * 28 * 28 * 2 * 4);
// 补上这行关键配置
bmpByteBuf.order(ByteOrder.nativeOrder());

2. 输入通道语义和Python端完全错位 #

你在Python端使用convert("LA")生成的输入数组，两个通道的语义是固定的：

• 第0通道：L亮度通道，取值范围0-255（uint8整数）
• 第1通道：A透明度通道，取值范围0-255（uint8整数）
  从你的Python代码来看，np.asarray(img)得到的是原始uint8值，根本没有做除以255的归一化操作。
  但你Android端的处理完全和这个逻辑对不上：
• 自己手动计算加权灰度值，还做了两次缩放（先除以1000、再除以255），把取值范围压到了0-1，和Python端0-255的输入分布差了255倍的偏移
• 第1个通道硬编码所有值为1，完全丢弃了原始的alpha通道信息
  输入分布和训练时的分布完全不一致，会进一步放大数值计算的不稳定性，哪怕字节序改对了，也会因为输入值偏移太大得到错误结果。
  修复方式：逐像素对齐Python端的取值逻辑，不要自行做缩放、硬改通道值：

// 逐像素读取两个通道的原始值，和Python端LA格式完全对齐
for (int i = 0; i < 28; i++) {
    for (int j = 0; j < 28; j++) {
        int pixel = bmp.getPixel(j, i);
        // 第一通道：直接取亮度值，保持0-255的取值范围，不要额外除以255
        float lVal = Color.luminance(pixel) * 255;
        // 第二通道：直接取alpha通道原始值，不要硬编码为1
        float aVal = Color.alpha(pixel);
        bmpByteBuf.putFloat(lVal);
        bmpByteBuf.putFloat(aVal);
    }
}

3. 容易忽略的边界排查点 #

• 确保传入的Bitmap是强制resize到28*28尺寸的，不要用任意尺寸的图直接走处理流程，否则数组维度和ByteBuffer大小不匹配也会触发内存读取错误，输出NaN
• 确认TFLite导出时没有开启默认的INT8量化配置，保持和模型训练时一致的FLOAT32输入类型，避免输入张量类型不匹配
• 可以在写入第一个float值之后，把ByteBuffer的内容重新读出来，和Python端同位置的输入值做对比，确认完全一致再做推理，能最快定位输入错位的问题
• 检查模型导出的输出逻辑：你训练时配置损失为SparseCategoricalCrossentropy(from_logits=True)，但最后一层已经加了softmax激活，导出TFLite时要确认模型输出的是合法的概率分布值，避免因为导出逻辑错位导致输出值超出0-1范围触发后续计算异常

内容的提问来源于stack exchange，提问作者skdhfgeq2134