Spring Boot中接口调用内部API时如何处理大请求量异常问题

该现象是典型的资源耗尽触发的服务自保护，90%以上的场景由以下3种原因导致：

• HTTP客户端连接未正确回收，连接池占满后无法创建新的连接请求
• 内部API的限流/熔断策略被触发，直接拒绝请求，冷却后自动恢复
• 主服务的数据库连接池泄露，连接占满后阻塞后续业务逻辑导致调用超时

1. 优化HTTP客户端连接池配置 #

禁用默认的单次连接HTTP客户端，使用带连接池管理的实现，配置空闲连接自动回收规则：

RestTemplate 配置示例 #

@Configuration
public class RestTemplateConfig {
    @Bean
    public RestTemplate restTemplate() {
        // 配置HTTP连接池
        PoolingHttpClientConnectionManager connManager = PoolingHttpClientConnectionManagerBuilder.create()
                .setMaxConnTotal(200) // 全局最大连接数，可根据下游承载能力上调
                .setMaxConnPerRoute(50) // 单个域名最大连接数，避免打满单下游的连接限额
                .evictIdleConnections(30, TimeUnit.SECONDS) // 30秒自动回收空闲连接
                .build();
        CloseableHttpClient httpClient = HttpClients.custom()
                .setConnectionManager(connManager)
                .disableAutomaticRetries() // 关闭默认重试，用统一重试组件控制
                .build();
        HttpComponentsClientHttpRequestFactory factory = new HttpComponentsClientHttpRequestFactory(httpClient);
        factory.setConnectTimeout(3000);
        factory.setReadTimeout(5000);
        return new RestTemplate(factory);
    }
}

OpenFeign 配置示例 #

feign:
  okhttp:
    enabled: true # 替换默认JDK URLConnection为OkHttp
  httpclient:
    max-connections: 200
    max-connections-per-route: 50
    time-to-live: 30s
    connection-timeout: 3000
    read-timeout: 5000

2. 增加熔断降级与重试机制 #

使用Resilience4j组件实现内部API调用的熔断、重试，避免下游故障扩散到主接口：

配置示例 #

resilience4j:
  circuitbreaker:
    instances:
      internal-api:
        sliding-window-size: 100 # 统计窗口大小
        failure-rate-threshold: 50 # 失败率超过50%触发熔断
        wait-duration-in-open-state: 10s # 熔断10秒后进入半开状态探活
        permitted-number-of-calls-in-half-open-state: 10
  retry:
    instances:
      internal-api:
        max-attempts: 2 # 最多重试2次
        wait-duration: 500ms
        # 仅对可重试的异常重试，非幂等接口不要配置重试
        retry-exceptions:
          - java.net.SocketTimeoutException
          - org.springframework.web.client.HttpServerErrorException.InternalServerError

代码使用示例 #

@CircuitBreaker(name = "internal-api", fallbackMethod = "callInternalApiFallback")
@Retry(name = "internal-api")
public Object callInternalApi(Object param) {
    // 调用内部API的逻辑
    return restTemplate.postForObject(internalApiUrl, param, Object.class);
}

// 降级方法，熔断/重试失败后返回兜底结果
public Object callInternalApiFallback(Object param, Throwable e) {
    log.error("调用内部API失败，参数：{}", param, e);
    // 返回兜底响应或者抛出业务异常
    return new CommonResult(500, "内部服务繁忙，请稍后重试");
}

3. 优化数据库连接池配置 #

开启数据库连接泄露检测，避免连接未释放导致池化资源耗尽：

spring:
  datasource:
    hikari:
      maximum-pool-size: 50 # 连接数不要过大，常规配置为CPU核心数*2 + 磁盘数
      leak-detection-threshold: 2000 # 连接2秒未归还打印警告日志，用于排查泄露
      idle-timeout: 30000
      max-lifetime: 60000

4. 增加限流削峰策略 #

匹配内部API的承载能力配置调用限流，避免短时间大量请求打垮下游：

resilience4j:
  ratelimiter:
    instances:
      internal-api:
        limit-for-period: 100 # 每秒最多允许100次调用，可根据下游压测结果调整
        limit-refresh-period: 1s
        timeout-duration: 2s

在调用方法上增加@RateLimiter(name = "internal-api")注解即可生效。

5. 异步解耦（可选） #

如果业务逻辑不需要同步等待内部API的返回结果，可将内部API调用放到独立线程池异步执行，或者通过MQ削峰，进一步降低下游压力。

内容的提问来源于stack exchange，提问作者Saif Mahmud Parvez