Web服务器是如何处理多个并发连接与请求的？

1. HTTP响应的准备与发送流程 #

socket连接建立完成后，响应的处理和发送会按以下步骤执行：

• 首先从对应socket的内核缓冲区读取原始TCP字节流，按照HTTP协议规范解析出请求行、请求头、请求体，提取出请求方法、请求路径、Cookie、请求参数等核心信息。
• 然后进入业务处理逻辑：如果是静态资源请求，就从磁盘读取对应文件内容；如果是动态接口请求，就调用对应业务逻辑（比如数据库查询、计算处理等）得到返回结果。
• 按照HTTP协议规范组装响应数据：先写入响应行（例如HTTP/1.1 200 OK），再写入响应头（比如Content-Type、Content-Length、缓存规则等），最后写入响应体（静态资源内容、JSON返回值、HTML内容等）。
• 组装完成的响应数据写入socket的发送缓冲区，由操作系统内核完成TCP报文的封装和发送，发送完成后根据请求头的Connection字段决定是关闭socket还是保持长连接供后续请求复用。

2. 处理流程的同步/异步模式 #

两种模式都存在，取决于服务器的具体实现：

• 同步模式：单个执行流按顺序处理请求的接收、计算、返回全流程，处理当前请求时会阻塞后续所有请求的调度，仅在极小型的测试工具类服务器中使用，并发能力极差。
• 异步模式：是当前主流服务器的实现方案，通过IO多路复用技术（Linux下的epoll、macOS下的kqueue等）监听所有socket的IO事件，仅当socket有可读/可写事件时才触发对应处理逻辑，不会因为单个请求的IO操作（读磁盘、查数据库等）阻塞整个服务，并发能力极强。

3. 服务器的进程/线程运行模式 #

三种模式都有实际应用，不同服务器的选型逻辑不同：

• 纯多进程模式：代表是早期Apache的prefork模式，主进程监听端口，新请求进入就fork一个独立子进程处理，优点是进程之间完全隔离，单个进程崩溃不影响整体服务；缺点是进程资源开销大，并发上限低。
• 纯多线程模式：代表是Apache的worker模式，每个请求分配一个独立线程处理，线程开销远小于进程，支持的并发更高，但单个线程崩溃可能影响整个进程，且线程切换仍有一定性能开销，并发上限低于纯异步方案。
• 多进程+异步结合模式：是现在最主流的实现方案，代表是Nginx、Node.js集群模式：主进程启动多个和CPU核心数匹配的工作进程，每个工作进程内部通过异步IO多路复用处理请求，既充分利用了多核CPU性能，又保留了异步IO的高并发能力，同时进程之间完全隔离，稳定性极强。

内容的提问来源于stack exchange，提问作者sr-py