SpringBoot空接口RPS提升求助：K8s环境配置调优无进展

1. 先排查流量分发问题 #

从你的测试数据来看，4个6C Pod的总RPS和单个6C Pod完全一致，这说明流量根本没均匀分发到所有Pod，先解决这个核心问题：

• 检查Service负载均衡策略：如果用ClusterIP，确认kube-proxy模式（iptables/ipvs）是否正确，建议切换到ipvs模式并使用轮询/最少连接算法；
• 客户端连接方式：如果客户端用长连接，会一直绑定到单个Pod，导致其他Pod空闲，改成短连接或开启客户端连接池多实例，同时关闭Ingress的会话保持（如果不需要）；
• 验证Pod健康状态：确认所有Pod的Readiness/Liveness探针正常，没有被Service剔除出可用端点列表。

2. 确认节点资源是否真的充足 #

你给Pod分配了20C，但要核实节点实际能提供的资源：

• 用kubectl top nodes查看节点CPU使用率，如果节点本身CPU已经跑满，Pod的资源配额再高也没用；
• 检查Pod的CPU requests和limits配置，确保两者匹配，避免Pod被节点CPU限流；如果只设了requests没设limits，节点资源不足时依然会出现瓶颈。

3. 优化网络层面的瓶颈 #

空方法的请求响应极快，此时网络开销会成为主要瓶颈：

• 优化Ingress性能：如果用Nginx Ingress，调整worker进程数（设为和CPU核心数一致）、worker连接数，比如配置worker_processes auto;、worker_connections 10240;；
• 开启HTTP/2：利用多路复用减少TCP连接开销，在Ingress或Tomcat中开启HTTP/2支持；
• 调整节点TCP内核参数：增大net.core.somaxconn（TCP监听队列长度）、开启net.ipv4.tcp_tw_reuse（快速回收TIME_WAIT连接），避免连接队列溢出。

4. 优化SpringBoot容器与架构 #

既然调整Tomcat线程/连接数没效果，说明这些参数不是瓶颈，可以尝试：

• 切换到Undertow容器：Undertow在高并发轻量请求场景下性能优于Tomcat，只需替换依赖即可：

  <!-- 移除Tomcat依赖 -->
  <dependency>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-web</artifactId>
      <exclusions>
          <exclusion>
              <groupId>org.springframework.boot</groupId>
              <artifactId>spring-boot-starter-tomcat</artifactId>
          </exclusion>
      </exclusions>
  </dependency>
  <!-- 添加Undertow依赖 -->
  <dependency>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-undertow</artifactId>
  </dependency>
  

• 改用Spring WebFlux：基于Netty的非阻塞响应式模型，不需要依赖线程池，能处理更高并发量，适合这种轻量空方法场景。

5. 排查压测端的限制 #

确认压测工具本身没有成为瓶颈：

• 检查压测工具的并发线程数、连接池大小是否足够，比如JMeter/Gatling要设置足够的线程数；
• 核实压测机器的系统限制，比如ulimit -n（文件描述符数量）是否足够，避免无法建立更多TCP连接。

6. 其他细节优化 #

• 关闭SpringBoot不必要的功能：比如关闭Actuator（如果不需要监控）、关闭DEBUG级别日志输出，减少无意义的CPU消耗；
• 检查Kubernetes网络插件：如果用Flannel、Calico等插件，部分插件在高并发下性能有差异，可尝试优化插件配置或更换更轻量的插件。

内容的提问来源于stack exchange，提问作者user890234