使用tf2onnx将TFLite格式ResNet转ONNX报struct.error如何解决

在Torch框架下训练得到ResNet模型，先后完成Caffe格式、TFLite格式的两轮转换，当前持有TFLite格式模型，需要进一步转换为ONNX格式。

python3 -m tf2onnx.convert --tflite  resnet.lite --output resnet.lite.onnx --opset 13 --verbose

return packer_type.unpack_from(memoryview_type(buf), head)[0]
struct.error: unpack_from requires a buffer of at least 11202612 bytes for unpacking 4 bytes at offset 11202608 (actual buffer size is 2408448)

这个报错的核心原因是待转换的TFLite文件不完整/损坏，或tf2onnx版本与模型格式不兼容：解析程序读取文件时预期拿到至少11202612字节的内容完成flatbuffer结构解析，但实际读取到的文件仅2408448字节，无法完成权重段、算子结构的解析，直接抛出读取错误。
可以按照以下步骤逐一排查解决：

• 首先校验本地resnet.lite文件完整性：对比Caffe转TFLite环节最终输出的文件大小、MD5校验值，确认文件没有因为磁盘写入失败、传输中断、误改文件名出现内容截断。这个报错最常见的诱因是之前Caffe转TFLite的流程没有正常跑完，输出的是只写入了部分内容的损坏文件，或是误把转换过程生成的临时分片、权重缓存文件当成了完整的TFLite模型。
• 确认文件大小无异常后，先用TensorFlow官方的TFLite解释器验证模型合法性，执行以下测试代码：

import tensorflow as tf
# 尝试加载TFLite模型
interpreter = tf.lite.Interpreter(model_path="resnet.lite")
interpreter.allocate_tensors()
# 能正常打印输入输出信息才说明模型本身是合法的
print("模型输入信息：", interpreter.get_input_details())
print("模型输出信息：", interpreter.get_output_details())

如果这段代码运行时就报格式错误，说明TFLite模型在之前PyTorch→Caffe→TFLite的多轮转换中已经损坏，不需要继续尝试转ONNX，回到TFLite导出环节重新生成完整合法的模型文件后，再执行tf2onnx转换命令即可。

• 如果TFLite解释器可以正常加载运行模型，排查tf2onnx版本兼容问题：低版本tf2onnx对部分量化TFLite、带自定义算子的TFLite模型存在flatbuffer解析偏移计算错误，升级tf2onnx和对应依赖的TensorFlow到稳定版本后重试即可，命令中使用的--opset 13参数对ResNet结构是兼容的，不需要调整。
• 跨框架多轮格式转换本身会持续累积算子兼容误差、精度损失，如果反复尝试TFLite转ONNX都失败，建议跳过Caffe、TFLite的中间转换链路，直接从最开始的PyTorch训练得到的ResNet权重导出ONNX格式，不仅流程更短，出现兼容问题的概率更低，最终模型的精度损失也最小。

内容的提问来源于stack exchange，提问作者Shirly