关于ExecutorService异步行为的疑问：IO等待任务调度与非阻塞实现

问题描述 #

我定义了一个Runnable任务，其内部调用一个耗时10秒的API，代码如下：

Runnable runnableTask = () -> {
    try {
        System.out.println("before");

        // call some api
        TimeUnit.MILLISECONDS.sleep(10000);
        System.out.println("after");

    } catch (InterruptedException e) {
        e.printStackTrace();
    }
};

我使用了一个包含2个线程的ExecutorService：

executorService = Executors.newFixedThreadPool(2);

executorService.submit(runnableTask1);
executorService.submit(runnableTask2);
executorService.submit(runnableTask3);

请问runnableTask3会被runnableTask1和runnableTask2阻塞吗？还是ExecutorService会识别到前两个任务处于IO等待状态，进而执行runnableTask3？
有没有办法让ExecutorService中的IO操作不阻塞？另外，newCachedThreadPool似乎仅能通过线程复用节省线程创建成本。

解答 #

1. runnableTask3是否会被阻塞？ #

会被阻塞。newFixedThreadPool(2)创建的是固定大小线程池，核心线程数与最大线程数均为2。提交3个任务时，前两个会被立即分配到线程池的两个线程中执行，第三个任务会被放入任务队列等待，直到前两个任务中有任意一个执行完毕——哪怕任务处于IO等待状态，对应的平台线程也会被占用，线程池不会将该线程重新分配给队列里的任务，它只判断线程是否在执行任务，不识别任务是否处于等待状态。

2. 如何避免IO操作阻塞线程池？ #

要解决IO等待占用线程的问题，推荐两种方案：

• 使用虚拟线程（Java 19+）：Java 19引入的虚拟线程（Project Loom）会在任务进入IO等待时自动挂起，释放底层平台线程去执行其他任务。可以通过Executors.newVirtualThreadPerTaskExecutor()创建虚拟线程池，能高效处理大量IO密集型任务，不会因为IO等待浪费线程资源。
• 改用异步IO模型：使用CompletableFuture结合异步IO工具（比如JDK自带的HttpClient.sendAsync），将同步IO转为异步操作，让线程在IO等待期间可以去处理其他任务。

3. 关于newCachedThreadPool的作用 #

你的理解是对的，newCachedThreadPool核心线程数为0，最大线程数为Integer.MAX_VALUE，会根据任务量动态创建线程并复用空闲线程，核心优势是减少线程创建与销毁的开销。但它不适合高并发IO场景，线程数可能会无限制膨胀，反而带来频繁上下文切换的额外开销，处理效率不如虚拟线程池。

内容的提问来源于stack exchange，提问作者olaf