Dataproc集群按工作日时段启停调度及成本相关问题咨询
关于Dataproc集群定时调度与计费的相关问题解答
1. 手动停止集群所属VM是否仍会产生费用
手动通过Compute Engine停止Dataproc集群关联的VM后,仍会产生部分费用:
- Dataproc层面只要集群未被正式标记为停止/删除状态,就会正常收取Dataproc管理费用
- 已停止的VM不会收取计算资源费用,但VM绑定的磁盘、静态IP等附属资源仍会正常计费
- 额外提示:手动操作底层VM容易导致Dataproc集群状态异常,后续恢复运行可能出现配置不一致问题,不建议采用该操作方式。
2. Dataproc是否支持工作日固定时段自动调度的需求
原生的Cluster Scheduled Deletion仅支持删除类规则,无法直接实现定时启停的需求,你可以采用以下两种方案满足场景要求:
- 定时启停方案:搭配Cloud Scheduler和自定义脚本,非工作时段调用
gcloud dataproc clusters stop命令停止集群,工作时段调用gcloud dataproc clusters start命令启动集群。停止状态的集群不会收取Dataproc管理费和VM计算费,仅收取磁盘等存储资源费用,无需每日重建集群,原有集群配置会完整保留。 - 定时创建删除方案:如果集群运行不需要保留历史数据,可以在工作日工作时段触发自动创建集群,同时给集群配置「指定未来时间点删除」的Scheduled Deletion规则,到非工作时段自动删除集群,该方案没有闲置存储成本,整体费用更低。
3. 配置自动扩缩容策略的集群是否可应用调度规则
可以正常应用。自动扩缩容属于集群运行期间的资源动态调整策略,和集群生命周期类的调度规则互不冲突:
- 集群的定时停止、定时删除操作不会清除已配置的自动扩缩容规则
- 集群下次启动后,原有自动扩缩容配置会自动生效,无需重新配置。
内容的提问来源于stack exchange,提问作者nonoDa
相关产品推荐
相关产品推荐

