TensorFlow Lite在三星A13设备重复推理后崩溃的调试咨询

我们通过C++接口在Android平台运行TensorFlow Lite，多数设备运行正常，但在三星A13这类设备上执行forwardPass时会出现崩溃。崩溃会在多次推理约1分钟后触发，期间内存消耗稳定，测试2.12.1和2.13版本均存在该问题。目前正在准备构建示例应用复现崩溃，现咨询该问题的调试切入点。

系统信息 #

• 操作系统：Android 13
• 移动设备：三星A13
• TensorFlow安装方式：源码编译
• TensorFlow版本：2.12.1、2.13
• Python版本：3.10.12
• Bazel版本：bazel 6.2.1-homebrew
• 编译工具：NDK 22

崩溃日志 #

libabc.so (void tflite::ops::builtin::add::EvalAdd<(tflite::ops::builtin::add::KernelType)2>(TfLiteContext*, TfLiteNode*, TfLiteAddParams*, tflite::ops::builtin::add::OpData const*, TfLiteTensor const*, TfLiteTensor const*, TfLiteTensor*)+2588)
libabc.so (TfLiteStatus tflite::ops::builtin::add::Eval<(tflite::ops::builtin::add::KernelType)2>(TfLiteContext*, TfLiteNode*)+168)
libabc.so (tflite::impl::Subgraph::Invoke()+708)
libabc.so (tflite::impl::Interpreter::Invoke()+92)

调试切入点建议 #

1. 聚焦Add算子的NEON加速路径 #

崩溃栈指向EvalAdd的KernelType=2，对应NEON硬件加速路径。三星A13搭载的Exynos 850芯片，其NEON指令集实现可能存在兼容性特殊点：

• 检查编译配置，尝试关闭NEON优化（移除Bazel编译参数中的-mfpu=neon相关选项），重新编译后测试是否仍崩溃。
• 验证Add算子的输入输出Tensor：确认数据类型是否匹配、内存是否对齐，排查NEON路径中是否存在非对齐内存访问或不支持的类型处理逻辑。

2. 排查多线程推理的线程安全问题 #

如果推理在多线程环境下执行：

• 确认是否多个线程共享了同一个Interpreter实例——TensorFlow Lite的Interpreter并非线程安全，多线程场景必须为每个线程创建独立实例。
• 检查推理循环逻辑：是否存在Interpreter重复初始化、Tensor内存重复释放/复用的错误操作。

3. 监控Tensor内存的生命周期异常 #

即便内存消耗稳定，也可能存在隐性的野指针或内存越界：

• 在每次推理前后，打印Add算子输入输出Tensor的内存地址、尺寸、数据类型，确认参数是否一致，排查Tensor是否被意外篡改。
• 编译时启用TFLITE_ENABLE_MEMORY_DEBUG宏，开启TensorFlow Lite的内存调试模式，检测内存越界、重复释放等问题。

4. 验证NDK编译兼容性 #

NDK 22与三星A13的Android 13系统可能存在兼容性冲突：

• 尝试降级NDK到21版本或升级到25版本，重新编译TensorFlow Lite库后测试。
• 确认编译时的ABI设置是否匹配三星A13的arm64-v8a或armeabi-v7a，避免跨ABI的指令集冲突。

5. 简化复现示例的构建策略 #

构建复现应用时：

• 先使用仅包含Add算子的极简模型测试，排除复杂模型结构的干扰。
• 模拟原场景的推理频率、输入数据模式，确保复现条件与实际场景一致。
• 在复现应用中添加详细日志，记录每次推理的时间、算子输入输出参数，定位崩溃前的异常变化。

内容的提问来源于stack exchange，提问作者david