Azure App Service CPU短暂满载的后果及相关疑问

• 直接后果
  • 不会导致应用崩溃：你提到内存利用率一直很低，这种情况下，哪怕CPU瞬间跑满几秒，App Service的进程也不会被强制终止——平台只会在进程持续资源耗尽（比如内存爆了、CPU长时间满载）时才会触发重启。
  • 请求会被缓冲或部分失败：App Service的HTTP.sys层会把超过当前处理能力的请求放进队列，等CPU空闲后再处理。但队列有容量上限，要是瞬间请求量远超队列能装的数量，超出的请求会直接返回503错误。
• 潜在隐患
  • 频繁的突发峰值会提升队列溢出的概率，导致越来越多用户收到503，影响业务体验。
  • 如果开了自动扩缩容，高频瞬间峰值可能会让平台误判成持续高负载，触发不必要的实例扩容，平白增加成本。
• 适配你场景的建议
  • 可以调整请求队列上限：在App Service的配置页面或者通过设置WEBSITE_MAX_DYNAMIC_APPLICATION_SCALE_OUT这类参数，根据业务量优化队列大小，但别设太高，避免间接拉高内存占用。
  • 优化自动缩放规则：把触发扩容的条件设得更严谨，比如设置成CPU持续超过70%达5分钟再扩容，既能应对真正的持续高负载，又不会被瞬间峰值干扰。

内容的提问来源于stack exchange，提问作者jcordell