JMeter压测线程数持续增加但平均响应时间基本稳定的原因是什么

可能的原因 #

• 接口层TPS限流：开发大概率为接口配置了漏桶/令牌桶类的限流策略，设置了固定的最大TPS阈值，超过阈值的请求会进入服务端内部队列等待处理，不会被直接拒绝，因此不会返回错误码，响应时间也不会出现大幅上涨，TPS到达阈值后就会停止增长，和你观测到的现象完全吻合。
• 基础设施层限流：流量入口的网关、负载均衡、WAF设备也可能配置了该API的流量限制规则，表现和接口层限流一致。
• 下游资源瓶颈触发保护策略：你提到接口会从文件查询数据，如果文件存储的IO吞吐量已经达到上限，服务端的自我保护机制会主动控制请求消费速度，避免IO资源耗尽引发雪崩，也会出现相同的表现。
• JMeter客户端瓶颈（概率极低）：如果压测客户端的CPU、内存、出口带宽被占满，也会导致无法发起更多请求，但该场景下通常会伴随JMeter报错、活跃线程数无法达到预设值的问题，你观测到活跃线程数正常递增，因此可以基本排除该可能。

JMeter佐证方案 #

• 关联线程数与吞吐量、响应时间的变化趋势：使用JMeter的 Throughput vs Threads 插件和 Response Times vs Threads 插件导出关联曲线，如果线程数超过某一数值后，吞吐量完全走平，同时响应时间没有出现线性或指数级上涨，即可确认是服务端主动做了流量限制。如果是服务端资源耗尽导致的瓶颈，响应时间会在线程数超过阈值后出现大幅飙升。
• 拆分请求耗时构成：在JMeter取样器配置中开启connect time、latency统计，限流场景下，请求的latency（请求发送完成到收到服务端第一个响应字节的时间）会维持在稳定区间，不会出现大幅波动。
• 阶梯加压验证：单独执行短周期压测，分别设置1000、2000、3000、4000并发线程，如果所有并发级别下TPS都稳定在同一个固定数值，即可完全确认服务端配置了固定TPS阈值的限流规则。
• 检查响应头字段：在JMeter中增加响应头提取规则，排查是否存在X-RateLimit-Limit、X-RateLimit-Remaining这类标准限流响应头，可直接作为限流的佐证。

内容的提问来源于stack exchange，提问作者JustNatural