分布式Locust测试部分CPU占满100%其余核心近乎闲置

可能的原因 #

• GIL限制与协程阻塞：Locust基于CPython，默认用gevent协程实现高并发。如果测试任务里有未被gevent monkey-patch的同步阻塞操作（比如原生socket、非异步文件IO，或是不兼容gevent的第三方库），会导致单个worker进程的协程无法正常调度，该进程持续占满一个CPU核心，其他worker因任务分配或阻塞问题无法充分利用资源。
• CPU亲和性绑定：系统可能把Locust的worker进程绑定到了特定CPU核心（比如系统配置、容器限制或手动设置），导致其他核心无法被调度到负载。
• 任务分配不均：用户量较小时（比如你设置的10个用户），Locust master可能把所有用户集中分配到少数几个worker上，其余worker无任务可执行，对应核心闲置。即使后续扩容用户量，若任务逻辑存在局部瓶颈，仍可能出现部分核心过载。
• 单worker进程的CPU密集型任务：如果测试任务本身是CPU密集型（比如大量数据计算、加密操作），单个worker进程会持续占用一个核心，若worker数量未匹配核心数，或部分worker未分配到足够任务，就会出现核心负载不均。

排查与解决步骤 #

1. 验证worker进程状态
   用系统进程工具检查4个worker是否都在运行：

   • Linux/macOS：执行ps aux | grep locust，查看每个worker进程的CPU占用率，确认是否有部分worker无负载。
   • Windows：打开任务管理器「详细信息」标签，查看Locust进程的CPU使用情况。

2. 确保任务兼容gevent异步模型

   • 测试类继承locust.HttpUser而非locust.User，使用Locust内置客户端发送请求，它已被gevent patch处理。
   • 避免在任务中使用同步阻塞操作，若必须使用（比如调用第三方同步库），需确保该库已被gevent monkey-patch，可在代码开头添加：

     from gevent import monkey
     monkey.patch_all()
     

3. 检查并取消CPU亲和性绑定

   • Linux：对每个Locust进程执行taskset -p <进程PID>，查看是否绑定了特定核心。若需取消绑定，执行taskset -p 0xffffffff <进程PID>。
   • Windows：在任务管理器中右键Locust进程，选择「设置相关性」，确保勾选所有可用核心。

4. 调整worker与用户分配策略

   • 扩容用户量时，设置worker数量与CPU核心数一致（比如4核机器对应4个worker），让每个worker充分利用一个核心。
   • 通过--users-per-worker参数强制master给每个worker分配等量用户，避免任务集中：

     locust --worker --users-per-worker 5  # 每个worker分配5个用户，4个worker共20用户
     

5. 优化CPU密集型任务
   若任务存在大量CPU计算，可将计算逻辑拆分到独立进程中（比如使用multiprocessing），或者用PyPy替代CPython运行Locust，PyPy的JIT编译能显著提升CPU密集型任务的性能，同时更好地利用多核。

内容的提问来源于stack exchange，提问作者user8690168