如何限制Gatling-grpc用户的每秒出站请求数？

问题背景 #

我们使用gatling-grpc框架对gRPC服务做负载测试，需要将单个用户的出站请求限制为每秒1次，但当前每个用户每秒发起请求超500次。尝试用Gatling原生的pace方法未达预期，需要临时解决方案。

可行临时方案 #

1. 修正Scenario结构，确保pace正确包裹gRPC请求

pace需要直接作用在包含gRPC请求的exec块外层，结合forever循环时要保证结构逻辑正确。以下是Java代码示例：

import io.gatling.javaapi.core.*;
import io.gatling.javaapi.grpc.*;

public class GrpcRateLimitSimulation extends Simulation {
    // 定义gRPC协议配置
    private final GrpcProtocol grpcProtocol = GrpcProtocol.grpcFor("your-grpc-service-host", 9090)
            .withPlaintext();

    // 定义速率限制场景：每秒执行1次gRPC请求
    private final ScenarioBuilder grpcScenario = scenario("gRPC Rate Limited Scenario")
            .forever()
                .on(
                    pace(1) // 强制每次执行间隔1秒
                        .exec(
                            Grpc.grpc("target-grpc-request")
                                .rpc(YourGrpcService.getDescriptor().getMethods().get(0))
                                .payload(YourRequest.newBuilder().build())
                        )
                );

    {
        setUp(
            grpcScenario.injectOpen(constantUsersPerSec(1).during(60)) // 按需调整注入用户数和持续时间
        ).protocols(grpcProtocol);
    }
}

注意：如果gRPC请求使用了异步非阻塞模式（如fireAndForget），需在exec块中添加await等待响应完成，避免pace提前触发下一次请求。

2. 自定义时间间隔控制（基于Session变量）

如果pace仍不生效，可通过Session存储上次请求时间，动态计算并添加暂停时长，确保严格每秒1次请求：

private final ScenarioBuilder grpcScenario = scenario("Custom Rate Limit Scenario")
        .exec(session -> session.set("lastRequestTime", System.currentTimeMillis()))
        .forever()
            .on(
                exec(session -> {
                    long currentTime = System.currentTimeMillis();
                    long lastTime = session.getLong("lastRequestTime");
                    long delay = Math.max(1000 - (currentTime - lastTime), 0);
                    return session.set("delay", delay);
                })
                .pause(session -> session.getLong("delay"))
                .exec(
                    Grpc.grpc("target-grpc-request")
                        .rpc(YourGrpcService.getDescriptor().getMethods().get(0))
                        .payload(YourRequest.newBuilder().build())
                )
                .exec(session -> session.set("lastRequestTime", System.currentTimeMillis()))
            );

3. 全局速率控制（补充方案）

如果需求是控制全局总请求数为每秒N次（而非单个用户），可调整注入速率结合throttle规则：

setUp(
    grpcScenario.injectOpen(constantUsersPerSec(10).during(60))
).throttle(
    reachRps(10).in(10),
    holdFor(50)
).protocols(grpcProtocol);

常见问题排查 #

• 确认pace直接包裹包含gRPC请求的exec块，不要将pace写在exec内部。
• 检查是否开启异步请求模式，这种模式下Gatling不会等待请求完成，会导致pace逻辑失效，需添加await等待响应。

内容的提问来源于stack exchange，提问作者user2024