如何解决Tomcat与SpringBoot架构下压测出现的502和503错误问题

502为网关错误，对应Apache反向代理从Tomcat获取响应超时/连接被重置；503为服务不可用，对应Tomcat连接/线程资源耗尽，请求被直接拒绝。10%的错误率对应超出承载阈值的流量占比。

你当前的配置缺少队列、线程弹性、长连接相关关键参数，优化后的配置如下：

port="8080" protocol="org.apache.coyote.http11.Http11Nio2Protocol"
connectionTimeout="5000"
maxHttpHeaderSize="65536"
maxPostSize="6291456"
maxConnections="2000"
maxThreads="2000"
minSpareThreads="500"
acceptCount="2048"
maxKeepAliveRequests="1000"
keepAliveTimeout="3000"
redirectPort="8443"

参数调整说明：

• 更换protocol为NIO2协议：相比默认HTTP/1.1对应的NIO协议，NIO2在高并发场景下I/O效率更高，吞吐能力提升10%~20%
• 下调connectionTimeout为5000ms：压测场景下过长的连接超时会导致无效连接占用资源，快速释放超时连接可降低资源浪费
• 新增minSpareThreads：设置最小空闲线程数为500，避免压测时频繁创建销毁线程带来的性能开销，响应速度更快
• 新增acceptCount：全连接队列长度设置为2048，当Tomcat达到maxConnections上限时，请求会进入队列排队，队列满才会拒绝请求，大幅降低503报错概率
• 新增maxKeepAliveRequests和keepAliveTimeout：开启长连接复用，减少TCP三次握手开销，同时快速回收空闲长连接

前端Apache的反向代理参数需要和Tomcat配置对齐，避免前端发压超过后端承载：

• 调整反向代理超时参数，示例配置：

  ProxyPass / http://127.0.0.1:8080/ connectiontimeout=3 timeout=5 keepalive=On max=2000
  ProxyPassReverse / http://127.0.0.1:8080/
  

• 调整Apache自身的MPM参数，如果用的是event模式：

  <IfModule mpm_event_module>
      StartServers              3
      MinSpareThreads          75
      MaxSpareThreads         250
      ThreadLimit              64
      ThreadsPerChild          64
      MaxRequestWorkers       2048
      MaxConnectionsPerChild   10000
  </IfModule>
  

  确保MaxRequestWorkers不低于Tomcat的maxConnections值，避免Apache自身连接不够用

如果是SpringBoot内嵌Tomcat，不需要改xml，直接在application.yml中添加以下配置即可：

server:
  tomcat:
    accept-count: 2048
    min-spare-threads: 500
    max-threads: 2000
    max-connections: 2000
    connection-timeout: 5000
    max-http-post-size: 6MB
    max-keep-alive-requests: 1000
    keep-alive-timeout: 3000
  port: 8080

• 调整完成后先做低流量压测，确认Tomcat和Apache无报错日志
• 逐步提升压测流量到之前报错的量级，观察错误率是否降至0
• 如果仍有报错，可适当调高acceptCount和maxConnections，但不要超过服务器CPU核心数的20倍，避免上下文切换开销过大导致性能下降

内容的提问来源于stack exchange，提问作者DK93