DeferredResult异步接口并发配置问题及连接池异常排查

嘿，我看你这个问题是典型的DeferredResult高并发阻塞场景，结合你说的请求串行、超时甚至数据库连接池爆掉的情况，核心问题应该是几个关键环节没配置到位：DeferredResult的存储逻辑存在锁竞争、线程池没区分开容器线程和异步处理线程、数据库连接池容量不足。下面给你一步步拆解解决方案：

虽然ConcurrentHashMap是线程安全的，但如果你的代码里给它套了synchronized同步块或者额外的锁，那直接就会导致请求串行。一定要用ConcurrentHashMap自带的原子方法来操作，比如computeIfAbsent、remove，完全不需要自己加锁。

举个正确的pull接口逻辑示例：

@GetMapping("/pull/{userId}")
public DeferredResult<Object> pullData(@PathVariable String userId) {
    // 直接指定5秒超时，避免默认超时过长
    DeferredResult<Object> deferredResult = new DeferredResult<>(5000L);
    
    // 用computeIfAbsent原子化创建并存储DeferredResult，避免并发覆盖
    deferredResultMap.computeIfAbsent(userId, k -> {
        // 绑定超时回调：超时后立即从map移除，释放资源
        deferredResult.onTimeout(() -> {
            deferredResultMap.remove(userId);
            deferredResult.setErrorResult("No new data within 5 seconds");
        });
        // 绑定完成回调：数据返回后也移除，避免重复触发
        deferredResult.onCompletion(() -> deferredResultMap.remove(userId));
        return deferredResult;
    });

    // 异步查询数据库，不要阻塞当前请求线程！
    asyncDatabaseService.checkNewData(userId).ifPresent(data -> {
        deferredResult.setResult(data);
        deferredResultMap.remove(userId);
    });

    return deferredResult;
}

你之前只配置了Tomcat的max-threads，但DeferredResult的回调、数据库查询这些异步操作需要单独的线程池，不能占用Tomcat处理请求接收的线程：

1. Tomcat容器线程配置（application.yml） #

server:
  tomcat:
    max-threads: 1000 # 匹配你的活跃用户数
    accept-count: 2000 # 队列容量，防止请求被直接拒绝
    connection-timeout: 20000 # 连接超时，避免等待过久

2. 自定义异步线程池（专门用于DeferredResult回调和数据库操作） #

@Configuration
@EnableAsync
public class AsyncThreadPoolConfig {

    @Bean(name = "deferredResultExecutor")
    public ThreadPoolTaskExecutor deferredResultExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(200); // 核心线程数，建议设为CPU核数*20（比如8核就设160）
        executor.setMaxPoolSize(1000); // 最大线程数，匹配活跃用户数
        executor.setQueueCapacity(2000); // 任务队列容量，应对突发请求
        executor.setKeepAliveSeconds(60); // 空闲线程存活时间
        executor.setThreadNamePrefix("DeferredResult-Callback-");
        // 拒绝策略：用调用者线程执行，避免任务丢失（极端场景下才会触发）
        executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy());
        executor.initialize();
        return executor;
    }
}

然后在异步方法上指定这个线程池，比如数据库查询：

@Service
public class AsyncDatabaseService {

    @Async("deferredResultExecutor")
    public Optional<Data> checkNewData(String userId) {
        // 这里写数据库查询逻辑，不会阻塞Tomcat线程
        return dataRepository.findLatestByUserId(userId);
    }
}

JMeter压测到50个请求就爆连接超时，说明你用的是Hikari的默认配置（默认max-pool-size只有10），完全不够支撑1000活跃用户。调整连接池配置：

spring:
  datasource:
    hikari:
      maximum-pool-size: 200 # 根据并发请求数调整，建议1000活跃用户设200-300
      minimum-idle: 50 # 最小空闲连接，避免频繁创建销毁连接
      connection-timeout: 30000 # 连接超时时间，设30秒足够
      idle-timeout: 600000 # 空闲连接10分钟超时回收
      max-lifetime: 1800000 # 连接最大生命周期30分钟，避免无效连接

1. 用JMeter重新压测：把线程数调到1000，观察每个请求的耗时是否控制在5秒+数据延迟范围内，同时看是否还有连接池超时异常。
2. 监控线程状态：用Spring Boot Actuator的/actuator/threaddump查看线程，确保没有大量阻塞的Tomcat线程；用/actuator/metrics查看自定义线程池的活跃线程数，确认负载正常。
3. 清理无效DeferredResult：一定要确保超时、完成后的DeferredResult都从ConcurrentHashMap中移除，避免内存泄漏。

内容的提问来源于stack exchange，提问作者Denis Stephanov