如何非侵入式限制CallXYZAPI类的总调用TPS不超过指定阈值

可以实现，无需修改原有CallXYZAPI类的代码，属于完全非侵入的实现方案，最简单的实现方式可选用装饰器模式配合限流组件完成 #

实现思路 #

核心基于装饰器模式对原有类的功能做增强，三个方法共享同一个限流实例，即可实现总调用频率的统一控制：

• 不需要修改原有类的任何业务逻辑
• 仅需要新增一个装饰类，原有类的对外方法签名完全保持一致
• 可以灵活替换限流实现，适配单机/分布式场景

代码示例 #

原有类（无任何修改） #

public class CallXYZAPI {
    public void method1() {
        // 原有业务逻辑
    }
    public void method2() {
        // 原有业务逻辑
    }
    public void method3() {
        // 原有业务逻辑
    }
}

新增限流装饰类 #

这里选用Guava的RateLimiter实现单机秒级限流，开箱即用不需要自己实现限流算法：

import com.google.common.util.concurrent.RateLimiter;

public class RateLimitedCallXYZAPI extends CallXYZAPI {
    // X为每秒允许的总调用次数，按需替换为实际数值
    private final RateLimiter globalRateLimiter = RateLimiter.create(X);
    private final CallXYZAPI delegate;

    public RateLimitedCallXYZAPI(CallXYZAPI originalInstance) {
        this.delegate = originalInstance;
    }

    @Override
    public void method1() {
        globalRateLimiter.acquire();
        delegate.method1();
    }

    @Override
    public void method2() {
        globalRateLimiter.acquire();
        delegate.method2();
    }

    @Override
    public void method3() {
        globalRateLimiter.acquire();
        delegate.method3();
    }
}

调用方式调整 #

原有代码里所有用到CallXYZAPI实例的地方，替换为装饰类的实例即可，业务逻辑完全不需要改动：

// 原用法
// CallXYZAPI api = new CallXYZAPI();
// 替换后用法
CallXYZAPI api = new RateLimitedCallXYZAPI(new CallXYZAPI());

更简化的Spring场景方案 #

如果你的项目基于Spring框架，可以直接用AOP实现零改动：

• 定义切面，切点匹配CallXYZAPI的所有public方法
• 切面中持有全局的限流器实例，方法执行前先获取许可
• 不需要修改原有类代码，也不需要修改调用方代码

自定义调整说明 #

• 如果需要触发限流时快速失败而非阻塞等待，把globalRateLimiter.acquire()替换为：

  if (!globalRateLimiter.tryAcquire()) {
      // 自定义限流后的处理逻辑，比如抛出异常、返回降级结果
      throw new RuntimeException("接口调用频率超出限制");
  }
  

• 如果是分布式场景，把Guava的RateLimiter替换为基于Redis实现的滑动窗口/令牌桶限流逻辑即可，上层的装饰器/切面结构不需要修改

内容的提问来源于stack exchange，提问作者Nitin Gandhi