如何为INT8训练后量化（PTQ）预处理图像？解决Keras DenseNet121输入全0问题

问题根源 #

核心问题是INT8量化时，模型内置的预处理（缩放至0-1+ImageNet归一化）与uint8输入不兼容。原流程中代表数据集传入的是已预处理的0-1区间数据，导致TFLite转换器错误计算量化映射关系，实际推理时uint8输入（0-255）经过预处理后数值被压至0附近，最终输出异常。

解决方案 #

1. 重组模型与预处理逻辑

将预处理操作从模型主体分离，重组为接受原始uint8输入的完整模型，确保量化覆盖端到端流程：

# 定义独立预处理层
preprocess_layer = tf.keras.Sequential([
    tf.keras.layers.Rescaling(1./255),
    tf.keras.layers.Normalization(
        mean=[0.485, 0.456, 0.406],
        variance=[0.229**2, 0.224**2, 0.225**2]
    )
])

# 重组为完整模型（trained_densenet_model为不含预处理的训练后主体模型）
full_model = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(224, 224, 3), dtype=tf.uint8),
    preprocess_layer,
    trained_densenet_model
])

2. 调整代表数据集生成器

传入原始uint8格式的图像数据（0-255区间），而非预处理后的0-1数据：

def representative_data_gen():
    for images, _ in train_ds.take(100):
        # 确保图像为uint8类型（若数据集输出是float则转换）
        images = tf.cast(images, tf.uint8)
        yield [images]

3. 重新配置TFLite转换器

保持输入为uint8，输出可根据需求选择float32（直观输出概率）或uint8：

converter = tf.lite.TFLiteConverter.from_keras_model(full_model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_data_gen
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.uint8
converter.inference_output_type = tf.float32  # 输出概率用float更方便
model_lite = converter.convert()

补充说明 #

• 若坚持保留模型原有预处理逻辑，推理时需手动将uint8输入转换为预处理后的float格式再传入，但此方法无法量化预处理部分，效率较低。
• 之前显式设置输入输出为FLOAT16无效，是因为模型预处理层仍在处理uint8输入，导致数值映射错误，需确保输入格式与预处理逻辑匹配。

内容的提问来源于stack exchange，提问作者peacer