google.cloud.aiplatform：Model.batch_predict设sync=False为何未异步提交批量预测？

问题背景 #

在流水线中调用Model.batch_predict并设置sync=False，按照官方文档说明，该参数应实现异步提交批量预测任务，流水线无需等待预测完成即可推进后续步骤。但实际运行时，流水线会持续轮询批量预测的状态，直到任务完全结束才继续执行。

调用代码 #

model.batch_predict(
    gcs_source=gcs_source,
    gcs_destination_prefix=gcs_destination,
    machine_type='n1-standard-4',
    instances_format='csv',
    sync=False
)

流水线日志状态 #

排查与解决方案 #

• 升级SDK版本：部分旧版google-cloud-aiplatform SDK中，sync=False的异步逻辑存在缺陷，会强制等待任务完成。执行以下命令升级至最新版本：

  pip install --upgrade google-cloud-aiplatform
  

• 检查流水线组件配置：若使用Kubeflow Pipeline等编排工具，需确认流水线组件未被设置为强制同步模式。部分组件会默认等待任务执行结果，需调整配置允许异步任务提交后直接返回。
• 避免隐式状态查询：调用model.batch_predict(sync=False)会返回BatchPredictionJob对象，若后续代码中存在访问该对象状态（如job.state、job.wait_for_completion()）的逻辑，会触发隐式轮询。需确保提交任务后不立即查询任务状态或等待完成。

内容的提问来源于stack exchange，提问作者havryliuk