You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何暂停Google Cloud Composer环境?测试场景替代删除方案咨询

Google Cloud Composer 测试环境暂停替代方案

由于Google Cloud Composer目前没有原生的"暂停环境"功能,针对测试场景,可采用以下几种替代方案实现近似的暂停效果:

1. 缩至最低资源配置(近乎零消耗)

通过调整Airflow worker和底层GKE节点池的配置,彻底停止任务运行并最小化资源占用:

  • 调整Airflow worker并发数为0,停止所有任务执行:
    gcloud composer environments update <你的环境名> --location <区域> --update-airflow-config worker_concurrency=0
  • 若使用自定义GKE节点池,将节点池的最小/最大节点数设为0,释放计算资源:
    gcloud container node-pools update <节点池名> --cluster <Composer关联的GKE集群名> --zone <可用区> --min-nodes 0 --max-nodes 0
    恢复时只需将上述参数调回原配置即可。

2. 批量暂停所有DAG(保留环境配置)

如果仅需停止任务运行,无需大幅缩减资源,可直接暂停所有Airflow DAG:

  • 在Airflow UI中勾选所有DAG,点击顶部的"Pause"按钮批量暂停
  • 或通过Composer环境的shell执行Airflow命令:
    1. 进入环境shell:gcloud composer environments run <你的环境名> --location <区域> bash
    2. 执行批量暂停命令:airflow dags pause --all
      恢复时在UI批量启用DAG,或执行airflow dags unpause --all。

3. 自动化启停(按需快速切换)

若需要一键式暂停/恢复,可结合Cloud Scheduler和Cloud Function实现自动化:

  • 编写Cloud Function,调用Composer API修改worker_concurrency或GKE节点池参数
  • 创建两个Cloud Scheduler任务:一个触发函数设置暂停配置,另一个触发恢复配置
    通过点击Scheduler任务的"立即运行"按钮,即可快速切换环境状态。

内容的提问来源于stack exchange,提问作者Datalicious

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.11 13:20:51