iOS Swift中TFLite目标检测float32模型输入输出类型设置方法

针对float32类型的TFLite模型，只需调整示例代码中的输入预处理、张量赋值和输出后处理逻辑，去掉uint8量化相关的转换步骤即可解决类型不匹配问题，以下是常用语言的代码调整示例：

Python 代码调整 #

1. 加载模型并确认张量类型 #

import tensorflow as tf
import numpy as np

# 加载float32模型
interpreter = tf.lite.Interpreter(model_path="your_float32_model.tflite")
interpreter.allocate_tensors()

# 获取输入输出张量详情
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# 验证模型输入输出为float32类型
assert input_details[0]['dtype'] == np.float32
assert output_details[0]['dtype'] == np.float32

2. 输入预处理（适配float32模型） #

import cv2

# 读取并预处理图像
img = cv2.imread("test_image.jpg")
# 缩放到模型要求的输入尺寸
img = cv2.resize(img, (input_details[0]['shape'][1], input_details[0]['shape'][2]))
# 转换为RGB格式（若模型训练时用RGB输入）
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
# 归一化到模型训练时的范围（常见为[0,1]或[-1,1]，需和训练一致）
img = img.astype(np.float32) / 255.0
# 添加batch维度
img = np.expand_dims(img, axis=0)

3. 推理与输出获取 #

# 设置输入张量（直接传入float32数据）
interpreter.set_tensor(input_details[0]['index'], img)
# 执行推理
interpreter.invoke()
# 获取float32类型的输出结果
output_data = interpreter.get_tensor(output_details[0]['index'])

# 后续根据模型输出格式解析检测结果即可

C++ 代码调整 #

1. 加载模型并确认张量类型 #

#include <tensorflow/lite/interpreter.h>
#include <tensorflow/lite/kernels/register.h>
#include <tensorflow/lite/model.h>
#include <cassert>

// 加载float32模型
std::unique_ptr<tflite::FlatBufferModel> model =
    tflite::FlatBufferModel::BuildFromFile("your_float32_model.tflite");
tflite::ops::builtin::BuiltinOpResolver resolver;
tflite::InterpreterBuilder builder(*model, resolver);
std::unique_ptr<tflite::Interpreter> interpreter;
builder(&interpreter);

// 分配张量内存
interpreter->AllocateTensors();

// 获取输入输出张量
TfLiteTensor* input_tensor = interpreter->input_tensor(0);
TfLiteTensor* output_tensor = interpreter->output_tensor(0);

// 验证张量类型为float32
assert(input_tensor->type == kTfLiteFloat32);
assert(output_tensor->type == kTfLiteFloat32);

2. 输入填充与推理 #

#include <vector>
#include <cstring>

// 假设preprocessed_float_img是预处理后的float32格式图像数据
// 需提前完成resize、色彩空间转换、归一化等步骤，和训练逻辑一致
std::vector<float> preprocessed_float_img;

// 将float32数据拷贝到输入张量
memcpy(input_tensor->data.f, preprocessed_float_img.data(), 
       preprocessed_float_img.size() * sizeof(float));

// 执行推理
interpreter->Invoke();

// 获取float32类型的输出结果
float* output_data = output_tensor->data.f;

// 后续解析检测框、类别、置信度等结果即可

关键注意事项 #

• 必须和模型训练时的预处理/后处理逻辑完全匹配：float32模型不需要量化相关的scale和zero point转换，需删除示例中对输入的uint8强制转换、输出的反量化计算步骤。
• 若示例代码中硬编码了数据类型转换（比如把图像转成uint8数组），直接替换为float32的预处理流程即可。

内容的提问来源于stack exchange，提问作者Ankur Pipaliya