看起来你在把AutoML模型部署到Docker容器时遇到了连锁问题：模型服务启动失败，导致后续的预测请求拿不到响应。我来帮你拆解根源并一步步解决：

核心问题分析 #

你看到的第一个错误 Could not find base path /tmp/mounted_model/ for servable default，本质是TensorFlow Serving的模型目录结构要求没满足，加上Docker挂载方式不对：

• TensorFlow Serving要求模型必须放在「根目录 → 版本号子目录」的结构下，比如：

  /tmp/mounted_model/
      0001/
          saved_model.pb
          variables/
              variables.data-00000-of-00001
              variables.index
  

• 你直接把单个saved_model.pb文件挂载到/tmp/mounted_model/0001，这会让容器把0001当成文件而非目录，TensorFlow Serving根本找不到有效的模型结构，自然启动失败。
• 后面的Empty reply from server是必然结果——服务都没起来，肯定没法响应请求。

分步解决步骤 #

1. 先修正GCS上的模型存储结构 #

首先确保你的模型在GCS上的结构符合要求：

• 新建一个模型根目录（比如gs://your-bucket/automl-model-root/）
• 在根目录下创建版本号子目录（比如0001，版本号必须是整数）
• 把导出的saved_model.pb和variables文件夹一起上传到0001目录里

最终GCS的路径应该是类似：gs://your-bucket/automl-model-root/0001/saved_model.pb，同时0001目录下要有完整的variables文件夹。

2. 调整Docker启动命令 #

修改YOUR_MODEL_PATH指向模型根目录（不是单个pb文件），并调整挂载路径：

CPU_DOCKER_GCS_PATH="gcr.io/automl-vision-ondevice/gcloud-container-1.12.0:latest"
# 改为包含版本子目录的模型根目录
YOUR_MODEL_PATH="gs://your-bucket/automl-model-root/"
PORT=8501
CONTAINER_NAME="my_random_name"
sudo docker run --rm --name ${CONTAINER_NAME} -p ${PORT}:8501 -v ${YOUR_MODEL_PATH}:/tmp/mounted_model -t ${CPU_DOCKER_GCS_PATH}

这里的关键是把GCS上的模型根目录直接挂载到容器的/tmp/mounted_model，让TensorFlow Serving自动识别里面的版本号子目录和模型文件。

3. 验证服务是否正常启动 #

启动容器后，查看日志，如果出现类似下面的内容，说明服务成功加载模型了：

20XX-XX-XX XX:XX:XX.XXXXXX: I tensorflow_serving/core/loader_harness.cc:86] Successfully loaded servable version {name: default version: 1}

4. 重新发送预测请求 #

服务正常启动后，再执行你的curl命令：

curl -d @/home/arkanil/saved_model/cloud_output.json -X POST http://localhost:8501/v1/models/default:predict

记得确认cloud_output.json的格式符合AutoML模型的输入要求（比如图像数据要做base64编码，包含instances字段等）。

额外排查小技巧 #

如果GCS挂载有问题（比如容器访问GCS权限不足），可以先把模型下载到本地再挂载：

# 把GCS上的模型目录下载到本地
gsutil cp -r gs://your-bucket/automl-model-root/ ./local-automl-model
# 修改路径为本地目录
YOUR_MODEL_PATH="./local-automl-model"
# 重新启动容器
sudo docker run --rm --name ${CONTAINER_NAME} -p ${PORT}:8501 -v ${YOUR_MODEL_PATH}:/tmp/mounted_model -t ${CPU_DOCKER_GCS_PATH}

内容的提问来源于stack exchange，提问作者Arkanil Dutta