You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Vertex AI端点:如何避免每次批量预测后创建新BigQuery数据集?

Vertex AI批量预测结果统一归集到指定BigQuery数据集的方法

当然可以实现将所有批量预测结果存入同一个BigQuery数据集,只需在发起任务时手动指定输出目标即可,具体方法如下:

  • 自定义输出目标配置
    不管用gcloud命令、API还是控制台发起批量预测,都不要依赖默认的输出设置,直接指定已存在的目标数据集,并为每次任务设置唯一的表名(比如加时间戳、任务ID),这样结果就会作为新表存入指定数据集,而非新建数据集。

  • gcloud命令实操示例
    用日期时间戳作为表名后缀保证唯一性,执行命令时替换括号内的参数:

    gcloud ai batch-predictions create \
      --region=us-central1 \
      --model=projects/[你的项目ID]/locations/us-central1/models/[你的模型ID] \
      --input-config=gs://[输入数据存储桶]/input_data.csv \
      --output-config=bigquery://[你的项目ID].[目标数据集ID]/pred_results_$(date +%Y%m%d_%H%M%S)
    
  • Python API调用示例
    通过代码生成唯一表名,确保每次任务的表不重复:

    from google.cloud import aiplatform
    import datetime
    
    aiplatform.init(project="[你的项目ID]", region="us-central1")
    model = aiplatform.Model("projects/[你的项目ID]/locations/us-central1/models/[你的模型ID]")
    
    # 生成带时间戳的唯一表名前缀
    table_prefix = f"pred_results_{datetime.datetime.now().strftime('%Y%m%d_%H%M%S')}"
    batch_job = model.batch_predict(
        job_display_name="daily_batch_pred",
        gcs_source="gs://[输入数据存储桶]/input_data.csv",
        bigquery_destination_prefix="bq://[你的项目ID].[目标数据集ID]",
        output_filename_prefix=table_prefix
    )
    batch_job.wait()
    
  • 控制台操作步骤
    在Vertex AI控制台创建批量预测任务时,到「输出设置」环节:

    1. 选择输出位置为BigQuery;
    2. 在「目标数据集」处手动填写已存在的数据集ID;
    3. 设置「表名前缀」,系统会自动在后面追加唯一标识后缀,避免表名冲突。
  • 关键注意点

    • 确保执行任务的服务账号拥有目标数据集的数据编辑权限,否则会出现写入失败;
    • 表名必须唯一,推荐用时间戳、任务ID这类自动生成的标识,避免手动命名重复。

内容的提问来源于stack exchange,提问作者user15064662

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.20 08:27:38