Azure：当达到最大工作节点数时创建告警的方法

1. 利用Databricks REST API实现自定义监控 #

直接通过API获取集群的实时节点数与配置的最大节点数，对比后触发告警：

• 调用GET /api/2.0/clusters/list接口，从返回的autoscale字段中提取每个集群的max_workers配置值
• 调用GET /api/2.0/clusters/get接口，获取指定集群的current_workers实时运行节点数
• 编写定时脚本（比如用Python/Azure Functions）轮询API，当current_workers等于max_workers时触发告警（比如发送邮件、调用Azure Monitor告警）

2. 使用Azure Monitor原生指标（推荐） #

Azure Databricks已集成Azure Monitor的核心指标，无需依赖诊断日志即可配置告警：

• 在Azure门户中进入Azure Monitor，选择“告警”>“创建”>“告警规则”
• 选择目标资源为你的Databricks工作区，指标命名空间选Databricks Clusters
• 选择Current Workers和Max Workers两个指标，设置告警条件为Current Workers等于Max Workers，并配置持续时间（比如连续5分钟）
• 完成告警动作组配置（通知方式、自动化操作等）

3. 解析Spark事件日志 #

如果集群已启用Spark事件日志（默认存储在ADLS/Blob存储），可以通过分析日志识别节点扩展受限的情况：

• 日志中ExecutorAllocationManager相关条目会记录集群尝试扩展节点但因上限无法继续的信息
• 使用Log Analytics导入事件日志，创建自定义查询筛选这类扩展失败的记录，基于查询结果配置告警

4. 通过Databricks CLI实现脚本化监控 #

用Databricks CLI结合脚本完成节点数对比：

• 执行命令databricks clusters list --output json导出所有集群的配置信息，提取max_workers
• 执行databricks clusters get --cluster-id <集群ID> --output json获取对应集群的current_workers
• 编写Shell/Python脚本定期执行上述命令，当两者数值相等时触发告警通知

内容的提问来源于stack exchange，提问作者user3579222