You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何在Azure成本管理中自动追踪ADF运行的Databricks作业集群成本?

自动化追踪ADF触发的Databricks作业集群成本方案

针对你需要追踪特定ADF管道触发的Databricks作业集群成本(含Databricks服务及底层VM)的需求,以下是无需手动操作、能规避jobid变化问题的自动化方案:

方案1:通过ADF管道自动注入固定标签

在ADF的Databricks Notebook活动中,为作业集群配置固定或动态标签,这些标签会自动同步到底层VM资源:

  • 操作步骤:进入ADF的Databricks活动设置,选择「集群」→「新建作业集群」→「高级选项」→「标签」,直接添加自定义标签(比如PipelineID: YourTargetPipelineID、WorkloadType: ADFNotebookJob);也可使用ADF动态内容(如@pipeline().PipelineName)自动填入当前管道名称作为标签值。
  • 优势:每次管道触发的集群都会自动带上统一标签,成本管理面板直接通过标签筛选即可,全程无需手动干预。

方案2:基于服务主体关联筛选

若ADF管道通过专属服务主体触发Databricks作业,可直接在成本管理中通过服务主体ID筛选:

  1. 确认ADF链接Databricks所用的服务主体(在ADF的Databricks链接服务配置中查看)。
  2. 在Azure成本管理的「成本分析」模块,添加筛选条件:选择「创建者ID」,填入该服务主体的Object ID,即可筛选出该主体创建的所有Databricks集群及对应底层VM的成本。
  • 注意:若该服务主体还用于其他资源操作,建议结合方案1的标签进一步缩小范围,避免统计冗余。

方案3:通过Databricks集群策略强制打标签

在Databricks工作区配置集群策略,强制ADF触发的作业集群带上指定标签:

  1. 进入Databricks工作区的「集群」→「策略」,新建策略并添加规则:tags.Source = "ADF"(强制要求集群包含该标签)。
  2. 在ADF的Databricks链接服务中,指定使用该集群策略。
  3. 此后所有ADF触发的作业集群都会自动继承该标签,成本管理中直接通过标签筛选即可。

成本分析筛选实操

打开Azure成本管理的「成本分析」,按以下方式组合筛选条件:

  • 筛选Databricks服务成本:选择「服务名称」为「Azure Databricks」,结合上述标签或服务主体ID。
  • 筛选底层VM成本:选择「服务名称」为「虚拟机」,同样用标签或服务主体ID过滤,因为VM会继承作业集群的标签配置。
  • 可保存自定义筛选视图,后续直接复用,无需重复配置。

内容的提问来源于stack exchange,提问作者cornisto

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.23 08:58:20