线程池执行同步阻塞REST调用时如何让线程等待期间承接更多任务？

需求可行性结论 #

该需求可以实现。

现有方案耗时高的原因 #

你当前总耗时达到6秒的核心原因是：DoLongSynchronousRestCall()属于同步阻塞IO调用，一旦提交到线程池执行，工作线程会全程阻塞在该方法的IO等待阶段，整整3秒无法承接其他任务。5个线程最多只能同时处理5个请求，10个请求需要分两批执行，因此总耗时约6秒。

符合预期的实现方案 #

你提到的「标记线程等待状态、期间承接其他任务」的逻辑，本质就是异步非阻塞IO的核心调度逻辑，要达到3.4秒的预期总耗时，最优方案如下：

• 第一步：替换同步REST调用为异步非阻塞实现
  不要再使用同步HTTP客户端，改用支持异步调用的HTTP工具，比如JDK11+自带的HttpClient、Spring WebClient、OkHttp异步API等。这类工具基于操作系统IO多路复用实现，发起请求后不会占用业务线程等待响应，仅在响应返回后才会调度线程执行后续的结果处理逻辑。
• 第二步：调整processAsync方法实现
  不需要再用CompletableFuture.supplyAsync包裹同步阻塞逻辑，直接返回异步HTTP调用的CompletableFuture即可，示例代码如下：

  // 提前初始化异步HttpClient，全局复用即可
  private final HttpClient httpClient = HttpClient.newHttpClient();
  
  public CompletableFuture<TestObject> processAsync(){
      // 构造REST请求
      HttpRequest request = HttpRequest.newBuilder()
              .uri(URI.create("你的REST接口地址"))
              .build();
      // 发起异步调用，全程不阻塞业务线程
      return httpClient.sendAsync(request, HttpResponse.BodyHandlers.ofString())
              // 响应返回后再执行结果解析逻辑
              .thenApply(response -> parseToTestObject(response.body()));
  }
  

• 第三步：批量提交所有任务等待结果
  直接同时提交10个对象的processAsync调用，然后用CompletableFuture.allOf等待所有任务完成即可：

  List<CompletableFuture<TestObject>> futures = allObjects.stream()
          .map(obj -> obj.processAsync())
          .toList();
  
  CompletableFuture.allOf(futures.toArray(new CompletableFuture[0]))
          .thenRun(() -> {
              // 所有任务完成，提取结果即可
              List<TestObject> results = futures.stream()
                      .map(CompletableFuture::join)
                      .toList();
          });
  

该实现下10个请求几乎可以同时发起，3秒后所有响应陆续返回，加上0.4秒的处理开销，总耗时刚好符合你预期的3.4秒，全程不需要为REST调用分配固定的5个工作线程，资源利用率更高。

特殊情况折中方案 #

如果受项目限制无法修改DoLongSynchronousRestCall()的同步实现，也可以采用虚拟线程方案实现类似的调度效果：

• 把你当前的线程池替换为JDK19+正式支持的虚拟线程池（Executors.newVirtualThreadPerTaskExecutor()），虚拟线程在阻塞到同步IO时会自动被挂起，底层的平台线程可以承接其他虚拟线程的任务，也可以实现10个请求几乎同时运行、总耗时约3秒多的效果。

内容的提问来源于stack exchange，提问作者Loading