AWS Glue作业运行时长超阈值的告警配置问题咨询

你之前尝试使用的glue.driver.aggregate.elapsedTime属于Glue Spark作业的内部性能指标，仅在作业运行过程中由驱动进程上报，存在上报延迟、仅支持Spark类型作业、无法覆盖所有作业运行场景的问题，确实不适合作为全局作业运行时长的告警依据，可选择以下几种可行方案实现需求：

方案1：使用CloudWatch官方JobRunDuration指标配置告警 #

这是最推荐的原生无代码方案，适配仅需要统计作业最终运行时长、不需要运行中触发告警的场景：

• 指标所属命名空间为AWS/Glue，维度选择JobName，可针对单个作业单独配置阈值规则
• 指标统计方式选择Maximum，统计周期按需设置为5~15分钟，阈值配置为7200秒（即2小时）
• 告警触发条件设置为「连续1个周期指标值超过阈值」，通知目标绑定你指定的SNS主题即可
• 注意：该指标会在作业运行结束后上报最终时长，无法在作业仍处于运行状态、时长已超阈值时触发告警

方案2：配置Glue作业原生超时参数+状态变更告警 #

适配需要在运行超时时立刻终止作业、同时推送通知的场景，无额外开发成本：

• 进入Glue控制台对应作业的编辑页面，在「高级属性」中找到「超时」配置项，设置为120（单位为分钟，即2小时），作业运行超过该时长会被AWS官方自动终止
• 在EventBridge控制台创建事件规则，匹配Glue作业运行超时的状态变更事件，事件匹配模式参考如下：

{
  "source": ["aws.glue"],
  "detail-type": ["Glue Job Run Status Change"],
  "detail": {
    "state": ["TIMEOUT"],
    "jobName": ["你的目标作业名称"]
  }
}

• 规则的通知目标直接绑定对应SNS主题即可，作业超时终止时会自动推送告警通知

方案3：EventBridge + Lambda自定义检测 #

适配有特殊自定义逻辑的场景，比如不同时间段阈值不同、多个作业统一配置告警规则等：

• 首先创建EventBridge规则，当目标Glue作业启动时触发自定义Lambda函数
• Lambda函数记录作业启动时间、运行ID，调用CloudWatch API为该次作业运行创建临时告警规则，定时检测作业状态
• 当检测到作业运行时长超过2小时仍处于RUNNING状态时，触发SNS推送通知
• 作业运行结束后，Lambda自动清理本次生成的临时告警规则即可

内容的提问来源于stack exchange，提问作者user13902576