TFLite模型Android与Python端推理输出不一致问题排查修复

问题原因 #

Android端输入数据构造逻辑存在两个错误，导致传入模型的实际输入值和预期完全不符：

• ByteBuffer默认字节序不匹配：Java NIO的ByteBuffer默认采用大端字节序，而TFLite要求输入缓冲区使用本地字节序（移动端为小端字节序），字节序错误会导致浮点数被解析为完全错误的值。
• 缓冲区指针未重置：向ByteBuffer写入浮点数后，缓冲区读写指针停在写入完成的位置，未重置到起始位置就传入TensorBuffer，会导致TFLite读取到未初始化的内存脏数据，直接表现为输出随机超大值、多数输入返回相同异常结果。

修复方法 #

修改Android端输入缓冲区构造的代码段，补全字节序设置和指针重置逻辑，修正后的代码如下：

// 替换原有错误的ByteBuffer构造逻辑
ByteBuffer byteBuffer= ByteBuffer.allocateDirect(1 * 4);
// 设置为TFLite要求的本地字节序
byteBuffer.order(ByteOrder.nativeOrder());
byteBuffer.putFloat(data);
// 重置缓冲区指针到起始位置，保证读取到完整写入数据
byteBuffer.rewind();

更稳妥的简化写法 #

如果不想手动处理ByteBuffer的底层细节，可以直接通过浮点数数组加载输入，由TFLite Support库自动处理缓冲区构造、字节序转换的逻辑，从根源避免此类错误：

TensorBuffer inputFeature0 = TensorBuffer.createFixedSize(new int[]{1, 1}, DataType.FLOAT32);
// 直接传入float数组，无需手动构造ByteBuffer
inputFeature0.loadArray(new float[]{data});

修复效果 #

修正后Android端推理结果将和Python端TFLite推理结果完全对齐：输入2返回约2.5395，输入3返回约3.6323，不会再出现异常固定值、超大数等问题。

内容的提问来源于stack exchange，提问作者Ayush Raj