TFLite转换crop_and_resize算子报Model input is not quantized错误如何解决
错误根因
模型存在两个输入:
- 第一个是图像输入,可正常量化为uint8/int8类型
- 第二个是归一化框坐标输入,属于范围固定在[0,1]的浮点辅助输入,不适合直接量化为uint8
你的代码全局指定inference_input_type = tf.uint8,转换器会尝试将所有输入都量化为uint8,第二个坐标输入无法生成合法的量化参数,因此抛出输入未量化的错误。
修复方案
- 取消全局输入类型设置,改为按输入顺序分别指定每个输入的推理类型,坐标输入保留float32格式
- 新增开启新量化器的配置,提升自定义算子的量化兼容性
- 补充浮点类型到支持类型列表,适配未量化的坐标输入
修改后的转换代码段
# Converter converter = tf.lite.TFLiteConverter.from_keras_model(model) converter.optimizations = [tf.lite.Optimize.DEFAULT] # 开启新量化器,提升兼容性 converter.experimental_new_quantizer = True converter.target_spec.supported_ops = [ tf.lite.OpsSet.TFLITE_BUILTINS_INT8, tf.lite.OpsSet.SELECT_TF_OPS ] # 补充float32到支持类型,适配未量化的坐标输入 converter.target_spec.supported_types = [tf.int8, tf.float32] # 按输入顺序指定类型:第一个图像输入用uint8,第二个坐标输入保留float32 converter.inference_input_type = [tf.uint8, tf.float32] converter.inference_output_type = tf.uint8 converter.representative_dataset = representative_dataset_generator quant_model = converter.convert() # 保存模型示例 with open("quant_crop_model.tflite", "wb") as f: f.write(quant_model)
注意事项
- 推理时第一个输入传入uint8格式的图像数据,第二个输入仍传入float32格式的归一化框坐标即可
- 如果需要将坐标输入也做量化,需手动指定该输入的量化缩放因子和零点,通常坐标类输入保留浮点精度更高,无需强制量化
内容的提问来源于stack exchange,提问作者Yann POURCENOUX
相关产品推荐
相关产品推荐

