Spring Webflux懒加载内存缓存实现:解决并发下Token重复请求问题
解决方案
核心思路
你当前的写法存在两个核心问题:一是非线程安全的缓存判断,并发场景下多个请求同时命中cachedToken == null的分支会触发重复请求;二是没有内置过期刷新的原子控制,刷新阶段同样会出现并发重复请求。
方案通过原子引用持有带缓存能力的冷Mono实例,利用Reactor原生的缓存特性和CAS原子操作,保证不管是首次获取还是过期刷新,都只会触发一次实际的外部接口请求。
实现代码
@Service @RequiredArgsConstructor public class ExternalTokenRepository { private final WebClient webClient; // 原子引用持有缓存的Token Mono,保证并发更新的线程安全 private final AtomicReference<Mono<Token>> cachedTokenMono = new AtomicReference<>(); public Mono<Token> getToken() { Mono<Token> currentMono = cachedTokenMono.get(); if (currentMono != null) { return currentMono; } // 构造新的Token请求流,带自动过期缓存配置 Mono<Token> newTokenMono = webClient.post() // 此处补充你原有请求头、请求体逻辑 .exchangeToMono(response -> response.bodyToMono(Token.class)) // 根据接口返回的Token有效期设置缓存时间,提前60秒失效避免临界期过期 .cache( token -> Duration.ofSeconds(token.getExpiresIn() - 60), // 请求异常时缓存10秒,避免短时间大量重试打垮下游接口 err -> Duration.ofSeconds(10), // 空返回时缓存1秒快速重试 () -> Duration.ofSeconds(1) ) // 缓存失效后自动清空引用,下次请求触发新的获取逻辑 .doFinally(signal -> cachedTokenMono.compareAndSet(newTokenMono, null)); // CAS原子更新,保证并发下仅一个Mono实例被存入引用 if (cachedTokenMono.compareAndSet(null, newTokenMono)) { return newTokenMono; } else { // 其他线程已完成初始化,直接返回已存在的Mono即可 return cachedTokenMono.get(); } } // 可选:主动失效缓存,调用外部接口返回401时可手动调用触发立即刷新 public void invalidateCache() { cachedTokenMono.set(null); } // 自行替换为你实际的Token响应结构,需包含有效期字段expiresIn(单位:秒) @Data public static class Token { private String accessToken; private Long expiresIn; // 其他Token字段 } }
方案优势
- 并发安全:CAS操作保证同一时间仅会有一个Token请求被触发,所有并发请求共享同一个响应结果,不会出现重复请求
- 自动过期:基于返回的Token有效期动态设置缓存时间,到期后自动触发刷新,刷新过程同样符合单次请求规则
- 异常容错:请求失败时设置短缓存周期,避免下游接口故障时触发大量无效重试
内容的提问来源于stack exchange,提问作者S K
相关产品推荐
相关产品推荐

