Tomcat单核心CPU下Java应用并发连接数及线程原理疑问

单核心CPU同一时间确实只能执行一个线程的指令——这是硬件物理层面的硬限制。我们觉得多个线程在“同时”跑，完全是操作系统时间片轮转调度的假象：系统把CPU时间切成几毫秒的小片段，轮流分配给不同线程，每个线程跑一小段就被挂起，切换到下一个线程。因为切换速度快到人类感知不到，所以看起来像是同时运行。

你说的Tomcat在单核心上处理200个连接是对的，但核心不是“每个请求一个线程”那么简单，得结合IO模型和线程池来看：

• 早期BIO模式下，每个连接确实会绑定一个线程，但这些线程90%以上的时间都在等IO——比如等数据库返回结果、等客户端发完请求数据、等网络传输响应。这段等待时间里CPU是空闲的，操作系统会把时间片分给其他需要运行的线程。所以单核心能撑住多个连接，本质是大部分线程都在阻塞，真正占用CPU的没几个。
• 现在Tomcat默认用NIO模式，基于Reactor模型：只用少量核心线程监听所有连接的IO事件，只有当连接有实际可处理的IO操作（比如请求数据到了），才从线程池里拿线程处理业务逻辑。这种模式下线程不会被无意义的IO等待占用，复用率极高，单核心撑几百个连接完全没问题。

并发系数（公式是并发数 = CPU核心数 * (1 + 等待时间/计算时间)）确实能解释基础场景：
比如一个请求处理时，计算逻辑只花1ms，剩下199ms都在等IO，那并发系数就是200——意思是单核心可以同时跑200个这样的线程，因为每个线程实际占CPU的时间只有1/200，刚好能把CPU填满。

但它覆盖不了这些点：

• 线程切换开销：线程数超过阈值后，操作系统切换线程时保存/恢复上下文的时间会吃掉大量CPU，反而拖慢整体性能。所以Tomcat线程池的最大线程数不是越大越好，单核心一般建议设几十到一百，不是无限加。
• 非阻塞IO的优化：并发系数是基于BIO阻塞等待的场景推导的，NIO模式下线程不需要绑定连接等IO，线程复用效率比BIO高得多，这部分优化是并发系数没法体现的。
• 操作系统调度策略：不同系统的调度算法（比如Linux的CFS）会影响线程获取CPU的优先级和效率，这也是并发系数没考虑的变量。

单核心上的“同时处理多连接”是并发（Concurrency），不是真正的并行（Parallelism）。核心逻辑就是：操作系统用时间片轮转制造同时运行的假象，加上大部分线程都在等IO，CPU能被充分利用，再配合Tomcat的NIO+线程池优化，就能支撑远超核心数的连接量。

内容的提问来源于stack exchange，提问作者Barmaglot