Spring Boot请求转发时实现请求间25秒延迟的最优方案咨询

核心思路 #

要实现Service1接收200个并行请求后，按25秒间隔转发给Service2，同时避免阻塞用户请求或超时，必须采用「异步接收请求 + 本地队列缓存 + 单线程定时消费」的组合模式：

• 异步接收请求，快速响应终端用户，避免请求超时
• 用线程安全队列缓存待转发请求，实现请求排队
• 单线程定时任务按固定间隔从队列取请求转发，严格控制间隔时间

具体实现步骤 #

1. 异步接收请求，快速响应用户 #

在Controller方法上标记@Async，将请求处理逻辑异步化，同时直接返回受理结果，不让用户等待转发过程。

@RestController
@RequestMapping("/api")
public class ForwardController {
    private final RequestQueueService requestQueueService;

    public ForwardController(RequestQueueService requestQueueService) {
        this.requestQueueService = requestQueueService;
    }

    @PostMapping("/forward")
    @Async
    public CompletableFuture<ResponseEntity<String>> handleRequest(@RequestBody String requestBody) {
        // 将请求放入缓存队列
        requestQueueService.addRequest(requestBody);
        // 立即返回用户请求已受理
        return CompletableFuture.completedFuture(ResponseEntity.ok("请求已接收，将排队转发"));
    }
}

2. 实现线程安全的请求缓存队列 #

用LinkedBlockingQueue实现请求缓存，队列容量设为200，刚好匹配最大并行请求数，避免内存溢出。

@Service
public class RequestQueueService {
    // 队列容量匹配200个并行请求
    private final BlockingQueue<String> requestQueue = new LinkedBlockingQueue<>(200);

    public void addRequest(String requestBody) {
        try {
            // 队列满时自动阻塞，直到有空闲位置
            requestQueue.put(requestBody);
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
            throw new RuntimeException("请求加入队列失败", e);
        }
    }

    public String takeRequest() throws InterruptedException {
        // 队列为空时阻塞，直到有新请求进入
        return requestQueue.take();
    }
}

3. 单线程定时任务按间隔转发请求 #

用@Scheduled实现固定间隔的消费逻辑，确保每次只转发一个请求，严格控制25秒的间隔。同时配置单线程执行，避免并发转发破坏间隔规则。

@Service
public class RequestForwardService {
    private final RestTemplate restTemplate;
    private final RequestQueueService requestQueueService;

    public RequestForwardService(RestTemplate restTemplate, RequestQueueService requestQueueService) {
        this.restTemplate = restTemplate;
        this.requestQueueService = requestQueueService;
    }

    // 固定间隔25秒执行一次转发
    @Scheduled(fixedDelay = 25000)
    public void forwardRequest() {
        try {
            String requestBody = requestQueueService.takeRequest();
            // 转发请求到Service2
            restTemplate.postForObject("http://service2/api/handle", requestBody, String.class);
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
        } catch (Exception e) {
            // 处理转发失败：可添加重试逻辑、记录错误日志
            e.printStackTrace();
        }
    }
}

4. 必要的配置 #

• 开启异步和定时任务：在Spring启动类添加@EnableAsync和@EnableScheduling
• 配置异步线程池，避免默认线程池资源耗尽：

@Configuration
@EnableAsync
public class AsyncConfig implements AsyncConfigurer {
    @Override
    public Executor getAsyncExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(10);
        executor.setMaxPoolSize(20);
        executor.setQueueCapacity(200);
        executor.setThreadNamePrefix("AsyncRequest-");
        executor.initialize();
        return executor;
    }
}

• 禁用异步请求超时（如果不需要同步等待转发结果）：

spring.mvc.async.request-timeout=-1

之前方案失败的原因 #

• 主线程sleep：直接阻塞Tomcat工作线程，导致线程池耗尽，新请求无法处理最终返回504超时
• @Async+sleep：异步线程无法保证请求间隔（多个异步线程会并发执行），且默认异步请求超时时间较短，触发AsyncRequestTimeoutException返回500

内容的提问来源于stack exchange，提问作者MagicTest