You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Cloud Run是否支持扩容期间由已有实例处理请求?

Cloud Run 扩容请求承接方案解答

Google Cloud Run 本身没有原生的“触发扩容的请求强制由已运行实例处理,新实例就绪后再分流”的配置,但可以通过以下几种方式实现类似效果:

1. 配置最小常驻实例数

  • 设置至少1个最小实例(Minimum Instances),让服务始终保持至少一个运行中的实例。这样所有触发扩容的请求都会先由这个常驻实例承接,直到新实例启动完成并通过健康检查后,后续请求才会被路由到新实例。
  • 注意:该方案会产生常驻实例的运行费用,但能彻底避免完全冷启动带来的请求等待问题,适合对响应延迟敏感的场景。

2. 结合Cloud Load Balancer 实现流量控制

  • 将Cloud Run服务挂载到Cloud Load Balancer(CLB)后端,利用CLB的健康检查和流量分发规则实现需求:
    • 新实例启动过程中,由于未通过健康检查,CLB不会将流量分配给它;
    • 所有触发扩容的请求会被CLB路由到已就绪的实例,直到新实例健康检查通过后,才会逐步接收新请求。

3. 优化实例并发配置

  • 调整Cloud Run的容器并发数(Container Concurrency),提高单个实例能处理的请求数量。这样当流量突增触发扩容时,现有实例还有足够的并发余量承接触发扩容的请求,避免请求进入等待队列直到新实例就绪。
  • Cloud Run的默认扩容逻辑是:当现有实例达到并发上限时才会启动新实例,若现有实例仍有处理能力,触发扩容的请求会直接由现有实例处理。

内容的提问来源于stack exchange,提问作者Safderun

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.02 10:35:39