使用TensorFlow1.6训练的SSD-inception-v2模型在ML Engine预测失败求助

我之前在部署TF1.x的目标检测模型到ML Engine时也踩过类似的坑，结合你描述的情况，给你梳理几个关键的排查和解决方向：

1. 先确认本地导出的模型是否能正常工作 #

ML Engine预测失败很多时候是模型本身导出有问题，先在本地验证：

• 用saved_model_cli工具查看模型签名，确认导出的SavedModel包含正确的服务签名：

  saved_model_cli show --dir experiments/ssd_inception_v2/frozen_graphs/ --all
  

  重点看有没有serving_default签名，以及输入输出张量是否符合SSD模型的标准（比如输入是image_tensor，输出包含detection_boxes、detection_scores、detection_classes等）。
• 写一段简单的本地预测代码测试模型：

  import tensorflow as tf
  import numpy as np
  from PIL import Image
  
  # 加载模型
  with tf.Session(graph=tf.Graph()) as sess:
      tf.saved_model.loader.load(sess, [tf.saved_model.tag_constants.SERVING], "./experiments/ssd_inception_v2/frozen_graphs/")
      graph = tf.get_default_graph()
      
      # 获取输入输出张量
      image_tensor = graph.get_tensor_by_name('image_tensor:0')
      detection_boxes = graph.get_tensor_by_name('detection_boxes:0')
      detection_scores = graph.get_tensor_by_name('detection_scores:0')
      
      # 用真实图片测试（替换成你的测试图路径）
      img = Image.open("test_image.jpg").resize((300, 300))
      img_array = np.expand_dims(np.array(img), axis=0)
      
      # 执行预测
      boxes, scores = sess.run([detection_boxes, detection_scores], feed_dict={image_tensor: img_array})
      print(f"检测到的框数量：{len(boxes[0])}")
      print(f"最高置信度：{scores[0][0]}")
  

  如果本地测试失败，说明导出过程有问题，需要重新检查导出命令的参数是否正确（比如pipeline_config_path是否指向正确的配置文件，trained_checkpoint_prefix是否是最终的 checkpoint 文件）。

2. 确保ML Engine版本配置正确 #

虽然TF1.6和ML Engine兼容，但创建模型版本时必须明确指定TensorFlow运行时版本，否则ML Engine可能会默认使用更高版本，导致兼容性问题：

• 创建版本时加上--runtime-version 1.6参数，示例命令：

  gcloud ml-engine versions create v1 \
      --model your_model_name \
      --origin gs://your_bucket_name/experiments/ssd_inception_v2/frozen_graphs/ \
      --runtime-version 1.6
  

3. 检查预测请求的格式是否匹配模型输入 #

SSD模型的输入格式要严格对应，ML Engine的预测请求JSON格式分两种情况：

• 如果模型接受的是张量输入（image_tensor），请求格式应该是：

  {
      "instances": [
          {
              "image_tensor": [1, 300, 300, 3]  # 这里替换成你的图片像素数组，或者用base64编码
          }
      ]
  }
  

• 如果模型接受的是字节输入（image_bytes），则需要把图片编码成base64字符串：

  {
      "instances": [
          {
              "image_bytes": {"b64": "your_base64_encoded_image_string"}
          }
      ]
  }
  

  具体用哪种格式，要看你导出模型时的签名定义（通过saved_model_cli的输出确认）。

4. 验证GCS存储桶的权限 #

ML Engine需要能读取你上传的SavedModel文件，所以要确保ML Engine的服务账号有存储桶的访问权限：

• 在Cloud Console的IAM页面，找到ML Engine的默认服务账号（格式是service-<你的项目编号>@cloud-ml.google.com.iam.gserviceaccount.com），给它添加Storage Object Viewer角色。

5. 查看ML Engine的日志定位具体错误 #

如果以上步骤都没问题，去Cloud Console的ML Engine -> 模型 -> 你的版本 -> 日志里查看详细错误信息，日志会明确告诉你是模型加载失败、输入格式错误还是其他问题，比如：

• 如果日志显示找不到某个张量，说明输入输出名称不匹配；
• 如果日志显示模型加载失败，可能是SavedModel文件损坏或者权限问题。

内容的提问来源于stack exchange，提问作者Rodrigo Loza