Spring Boot+Java环境下如何对AWS Neptune做请求限流避免超容量

核心设计思路 #

优先区分两类请求的优先级，用户侧业务请求优先级远高于后台定时任务，流量突增时优先限制低优先级的后台任务，保障用户侧业务可用性，同时针对Neptune的读写特性做分层限流，避免单一类型请求占满数据库资源。 #

1. 技术选型 #

1.1 单机部署场景 #

直接用Resilience4j Ratelimiter实现，原生支持Spring Boot注解式埋点，不用额外依赖中间件：

• 引入依赖：

<dependency>
    <groupId>io.github.resilience4j</groupId>
    <artifactId>resilience4j-spring-boot2</artifactId>
    <version>1.7.1</version>
</dependency>
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-aop</artifactId>
</dependency>

• 配置多套限流规则，适配不同场景：

resilience4j:
  ratelimiter:
    instances:
      # 用户侧读请求限流
      user-neptune-read:
        limit-for-period: 100
        limit-refresh-period: 1s
        timeout-duration: 100ms
      # 用户侧写请求限流
      user-neptune-write:
        limit-for-period: 30
        limit-refresh-period: 1s
        timeout-duration: 200ms
      # 后台定时任务请求限流
      scheduled-neptune-task:
        limit-for-period: 20
        limit-refresh-period: 1s
        timeout-duration: 1s

• 代码埋点：在Neptune公共操作方法、定时任务入口方法上加对应注解即可，示例：

// 定时任务入口限流
@Scheduled(cron = "0 0 * * * ?")
@RateLimiter(name = "scheduled-neptune-task", fallbackMethod = "scheduledTaskFallback")
public void logCleanTask() {
    // 执行Neptune删除操作
}

// 降级方法：触发限流时把任务丢入延迟队列等待重试
private void scheduledTaskFallback(Exception e) {
    delayQueue.add(new DelayTask(30, TimeUnit.SECONDS, logCleanTask));
}

1.2 分布式部署场景 #

多实例部署时用Redis + Redisson实现全局统一限流，避免单机限流累加后超出Neptune的承载上限：

// 初始化全局Neptune写操作限流器，全实例共享阈值
RRateLimiter neptuneWriteLimiter = redissonClient.getRateLimiter("neptune:write:global:limiter");
neptuneWriteLimiter.trySetRate(RateType.OVERALL, 50, 1, RateIntervalUnit.SECONDS);

// 执行Neptune操作前先获取许可
if (neptuneWriteLimiter.tryAcquire()) {
    // 执行Neptune操作
} else {
    // 用户侧请求返回「系统繁忙，请稍后重试」，定时任务进入延迟重试逻辑
}

2. 适配Neptune的优化策略 #

• 合并零散请求：把多条单次更新/查询请求合并为批量操作提交，降低请求次数，减少Neptune的连接开销
• 隔离长耗时任务：单独给分析类、全量扫描类的定时任务配置独立的限流池，并发数限制在5以内，避免这类任务占满IO资源影响正常业务
• 热点数据缓存：把用户侧高频查询的热点数据存入本地Caffeine或者Redis缓存，减少重复查询请求打到Neptune上

内容的提问来源于stack exchange，提问作者rollercoaster