AWS SageMaker异步推理终端节点自动扩缩容未触发问题：CloudWatch告警已处于“告警中”状态但无扩缩容动作

遇到这种情况确实挺闹心的，我帮你梳理几个常见的排查方向，一步步来定位问题：

• 检查Application Auto Scaling可扩展目标配置
  先确认你的SageMaker端点变体已经成功注册为Application Auto Scaling的可扩展目标。打开AWS控制台的Application Auto Scaling服务，进入「可扩展目标」列表，找到对应端点变体的ARN，确认状态是「已注册」。另外还要核对扩缩容的最小/最大实例数——如果当前实例数已经达到设置的最大值，那扩容动作自然不会被执行。

• 验证告警与扩缩容策略的关联有效性
  进入CloudWatch告警页面，查看触发的ScaleUpTo1InstanceAlarm的「告警动作」，确认已经正确关联了对应的扩容策略ARN。有时候配置时容易选错策略，或者策略后续被修改、删除，都会导致告警触发后没有动作。同时要确保策略的触发逻辑和告警条件匹配：比如你的告警是指标≥1触发，策略的触发规则是不是绑定了这个告警的「In alarm」状态？

• 查看Application Auto Scaling的执行日志
  去CloudWatch日志组里找/aws/application-autoscaling/sagemaker这个日志组，看看有没有关于扩缩容动作的报错信息。最常见的问题是权限不足：Application Auto Scaling的服务角色没有足够权限修改SageMaker端点的实例数。要检查这个角色的权限策略，确保包含sagemaker:UpdateEndpointWeightsAndCapacities动作，并且资源范围覆盖你的目标端点ARN。

• 核对HasBacklogWithoutCapacity指标的真实性
  这个指标是异步推理特有的，计算的是「有积压任务但当前无运行实例」的场景。你可以手动去CloudWatch指标页面查看这个指标的具体数值，确认是不是真的持续≥1。另外要注意指标的上报周期和告警的评估周期是否匹配——比如告警是10秒内1个数据点达标，但如果指标是每分钟上报一次，那实际可能没满足触发条件。同时也可以去异步推理对应的S3或SQS存储位置，看看有没有实际的待处理任务，排除告警误触发的可能。

• 确认SageMaker端点本身的状态
  检查你的异步推理端点是否处于「InService」状态，如果端点正在更新、创建或者处于故障状态，Application Auto Scaling是无法执行扩缩容动作的。

备注：内容来源于stack exchange，提问作者Zoran Janjic