Keras模型部署至GCloud ML-Engine后在线预测失败求助

嘿，你的推测完全正确！preprocess_image确实是用来在图像输入模型前执行自定义预处理的关键函数——你直接注释掉它的调用后，相当于把原始图像字节直接喂给了模型，这就导致Google Cloud ML Engine无法正确完成图像的解码与预处理，才会抛出那个「无法解码字节为JPEG、PNG、GIF或BMP」的错误。

下面是一步步解决问题的方案：

1. 补全匹配训练逻辑的preprocess_image函数 #

这个函数的核心作用是将原始图像字节转换成模型训练时期望的输入格式，逻辑必须和你训练阶段的预处理完全一致（比如尺寸缩放、像素归一化、通道顺序调整等）。举个典型的示例：

import tensorflow as tf

def preprocess_image(image_bytes):
    # 解码图像字节为张量（如果是PNG就用decode_png）
    img = tf.image.decode_jpeg(image_bytes, channels=3)
    # 调整到模型训练时用的输入尺寸，比如224x224
    img = tf.image.resize(img, [224, 224])
    # 像素值归一化（和训练时的处理一致，这里是归一到[0,1]）
    img = img / 255.0
    # 添加batch维度，因为模型默认接收批量输入
    return tf.expand_dims(img, axis=0)

2. 将预处理逻辑整合到导出的模型中 #

ML Engine需要的是一个端到端的推理模型，所以你需要把预处理函数整合到模型的输入流程里，而不是单独调用。可以用Lambda层包装预处理逻辑，再构建一个新的推理模型：

# 假设你已经训练好的Keras模型是`trained_model`
# 定义接收原始图像字节的输入层
input_bytes = tf.keras.layers.Input(shape=(), dtype=tf.string)
# 用Lambda层把预处理函数接入模型流程
processed_input = tf.keras.layers.Lambda(preprocess_image)(input_bytes)
# 连接到训练好的模型获取输出
model_output = trained_model(processed_input)
# 构建端到端的推理模型
inference_model = tf.keras.Model(inputs=input_bytes, outputs=model_output)

# 导出为ML Engine支持的SavedModel格式（上传到GCS）
inference_model.save("gs://your-gcs-bucket/path/to/saved_model")

3. 确保在线预测的输入格式正确 #

在线预测时，你需要发送base64编码后的图像字节作为输入，格式要符合ML Engine的要求。比如用gcloud命令行测试：

gcloud ai-platform predict --model=your-model-name --version=your-version --json-instances='{"b64": "'$(base64 -w 0 your-test-image.jpg)'"}'

如果用Python发送请求，要先读取图像字节，再进行base64编码，包装成指定的JSON结构。

4. 排查常见兼容问题 #

• 确认解码函数和输入图像格式匹配：如果你的测试图是PNG，要把decode_jpeg换成decode_png
• 检查输入尺寸、通道数是否和训练时一致：比如训练用的是灰度图（channels=1），预处理里也要对应调整
• 保证TensorFlow版本兼容：ML Engine的运行时版本要和你本地训练/导出模型的TF版本一致或兼容（比如都用2.x系列）

内容的提问来源于stack exchange，提问作者VeryVeryGoodNews