ESP32运行TensorFlow Lite LSTM模型时INT32类型不支持错误求助

问题定位 #

报错Type INT32 (2) not supported和Node ADD/WHILE failed的核心原因是：量化后的LSTM模型内部存在INT32类型的算子（如ADD），而TFLite Micro的ESP32内核默认不支持WHILE循环中的INT32算子执行；输出为输入前10个值则说明模型未实际执行推理，仅返回初始占位数据。

解决方案 #

1. 强制全INT8量化（关键：提供代表性数据集） #

Python转换TFLite时，仅指定输入输出为int8不足以保证内部层全量化，必须提供代表性数据集让转换器将所有权重、激活都转为int8，避免保留INT32类型：

import tensorflow as tf
import numpy as np

# 加载训练好的Keras LSTM模型
model = tf.keras.models.load_model('your_lstm_model.h5')

# 配置量化转换器
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8

# 生成代表性数据集（必须与模型输入形状、数据分布一致）
def representative_dataset_gen():
    for _ in range(100):
        # 生成20×8的归一化样本（-1~1范围）
        sample = np.random.uniform(-1, 1, size=(1, 20, 8)).astype(np.float32)
        yield [sample]

converter.representative_dataset = representative_dataset_gen

# 转换并保存模型
tflite_model = converter.convert()
with open('lstm_int8_model.tflite', 'wb') as f:
    f.write(tflite_model)

2. 改用TFLite专属LSTM层 #

Keras原生LSTM转换时可能生成不兼容的WHILE循环结构，替换为TFLite优化的LSTM层可避免该问题：

import tensorflow as tf

# 使用TFLiteLSTMCell构建模型
inputs = tf.keras.Input(shape=(20, 8))
x = tf.keras.layers.RNN(tf.lite.experimental.nn.TFLiteLSTMCell(48), return_sequences=True)(inputs)
x = tf.keras.layers.RNN(tf.lite.experimental.nn.TFLiteLSTMCell(16))(x)
x = tf.keras.layers.Flatten()(x)
outputs = tf.keras.layers.Dense(10)(x)
model = tf.keras.Model(inputs, outputs)

# 后续训练、量化步骤同前

3. 修正ESP32端部署细节 #

• 输入数据严格按模型要求转换：将-1~1的float32转为int8，公式为int8_data = (float_data * 127).astype(np.int8)
• 部署时直接传入int8_t数组，避免类型转换错误
• 检查张量类型是否匹配：

#include "tensorflow/lite/micro/micro_interpreter.h"

// 检查输入输出张量类型
TfLiteTensor* input_tensor = interpreter->input(0);
TfLiteTensor* output_tensor = interpreter->output(0);
if (input_tensor->type != kTfLiteInt8 || output_tensor->type != kTfLiteInt8) {
    Serial.println("Tensor type mismatch!");
    return;
}

4. 补全TFLite Micro算子支持 #

确保ESP32端的算子解析器包含所有需要的INT8算子：

#include "tensorflow/lite/micro/micro_mutable_op_resolver.h"
#include "tensorflow/lite/micro/kernels/micro_ops.h"

// 初始化算子解析器，添加LSTM及相关INT8算子
tflite::MicroMutableOpResolver<10> resolver;
resolver.AddLSTM();
resolver.AddAdd();
resolver.AddFlatten();
resolver.AddDense();
resolver.AddQuantize();
resolver.AddDequantize();
resolver.AddMul();
resolver.AddSub();

验证步骤 #

1. 用Netron工具打开转换后的.tflite模型，检查所有算子类型，确保无INT32节点（量化/反量化节点除外）
2. 在Python中用TFLite Interpreter测试模型，输入int8数据验证输出正确性
3. 重新生成头文件部署到ESP32，再次调用interpreter->Invoke()测试

内容的提问来源于stack exchange，提问作者tms40