GCP Vertex AI Endpoint返回空predictions数组问题咨询

问题背景：KFP pipeline作业执行成功，但调用已部署的Vertex AI Endpoint时返回空predictions数组[]，初步怀疑模型上传注册环节异常，可按以下优先级逐一排查：

1. 先修正预测请求入参格式 #

Vertex AI 官方predict接口对入参结构有强制要求，当前调用写法不符合规范：

• 错误写法（当前启用的代码）：

response = endpoint.predict({"user_id": 150})

• 正确基础格式：必须传入instances字段，且单条/多条预测数据都要放在数组结构里，之前注释掉的写法漏了数组包裹，修正后如下：

response = endpoint.predict(instances=[{"user_id": 150}])

改完入参后先发起测试，如果还是返回空数组，再往下排查模型上传和服务链路问题。

2. 核对模型上传配置与服务容器逻辑 #

现有模型上传代码存在几个容易踩的坑，逐一核对：

• 检查是否漏传模型制品路径：当前aiplatform.Model.upload方法中没有配置artifact_uri参数，如果模型权重文件存储在GCS路径下、没有直接打包进服务镜像，必须补全这个参数，指向模型文件所在的GCS目录，否则容器启动后无法加载模型文件，预测自然返回空。如果模型权重已经直接打入服务容器镜像，可以忽略这一项。
• 验证服务容器路由正确性：
  • 本地启动服务容器，先访问http://localhost:8080/health_check，确认返回200状态码——这是Vertex判定服务实例就绪的依据，要是健康检查逻辑和实际服务状态不匹配，会出现实例显示就绪但服务没正常跑的情况
  • 本地用和线上完全一致的入参，POST请求http://localhost:8080/predict，看本地返回结果是否正常，很多空返回问题本质是容器内部的预测逻辑本身有bug，和Vertex平台的模型注册无关
• 核对环境变量配置：传入的MODEL_NAME环境变量，要和容器内部加载模型时读取的变量名、变量值完全匹配，要是变量不对应，容器启动时加载不到目标模型，请求进来后就会返回空结果。

3. 查运行日志定位根因 #

如果前面两步都没找到问题，直接看部署实例的运行日志：

• 先看容器启动阶段日志，有没有模型加载失败、文件不存在、依赖缺失类的报错，很多时候模型显示部署成功，但内部加载模型抛错，健康检查又没拦截到异常，就会出现空返回
• 发预测请求的时候看实时日志，确认服务是否真的收到了请求、收到的请求参数是什么、推理过程有没有抛错，能直接定位是参数解析问题还是推理逻辑问题
• 顺便核对部署时选的机器规格，要是内存、显存不够，模型加载不全也会出现空返回，这种情况日志里一般会有OOM相关的报错。

内容的提问来源于stack exchange，提问作者juldavis