You need to enable JavaScript to run this app. Spring Webflux懒加载内存缓存实现:解决并发下Token重复请求问题
优惠活动
大模型
产品
解决方案
定价
更多

Spring Webflux懒加载内存缓存实现:解决并发下Token重复请求问题

解决方案

核心思路

你当前的写法存在两个核心问题:一是非线程安全的缓存判断,并发场景下多个请求同时命中cachedToken == null的分支会触发重复请求;二是没有内置过期刷新的原子控制,刷新阶段同样会出现并发重复请求。
方案通过原子引用持有带缓存能力的冷Mono实例,利用Reactor原生的缓存特性和CAS原子操作,保证不管是首次获取还是过期刷新,都只会触发一次实际的外部接口请求。

实现代码

@Service
@RequiredArgsConstructor
public class ExternalTokenRepository {

    private final WebClient webClient;
    // 原子引用持有缓存的Token Mono,保证并发更新的线程安全
    private final AtomicReference<Mono<Token>> cachedTokenMono = new AtomicReference<>();

    public Mono<Token> getToken() {
        Mono<Token> currentMono = cachedTokenMono.get();
        if (currentMono != null) {
            return currentMono;
        }

        // 构造新的Token请求流,带自动过期缓存配置
        Mono<Token> newTokenMono = webClient.post()
                // 此处补充你原有请求头、请求体逻辑
                .exchangeToMono(response -> response.bodyToMono(Token.class))
                // 根据接口返回的Token有效期设置缓存时间,提前60秒失效避免临界期过期
                .cache(
                    token -> Duration.ofSeconds(token.getExpiresIn() - 60),
                    // 请求异常时缓存10秒,避免短时间大量重试打垮下游接口
                    err -> Duration.ofSeconds(10),
                    // 空返回时缓存1秒快速重试
                    () -> Duration.ofSeconds(1)
                )
                // 缓存失效后自动清空引用,下次请求触发新的获取逻辑
                .doFinally(signal -> cachedTokenMono.compareAndSet(newTokenMono, null));

        // CAS原子更新,保证并发下仅一个Mono实例被存入引用
        if (cachedTokenMono.compareAndSet(null, newTokenMono)) {
            return newTokenMono;
        } else {
            // 其他线程已完成初始化,直接返回已存在的Mono即可
            return cachedTokenMono.get();
        }
    }

    // 可选:主动失效缓存,调用外部接口返回401时可手动调用触发立即刷新
    public void invalidateCache() {
        cachedTokenMono.set(null);
    }

    // 自行替换为你实际的Token响应结构,需包含有效期字段expiresIn(单位:秒)
    @Data
    public static class Token {
        private String accessToken;
        private Long expiresIn;
        // 其他Token字段
    }
}

方案优势

  • 并发安全:CAS操作保证同一时间仅会有一个Token请求被触发,所有并发请求共享同一个响应结果,不会出现重复请求
  • 自动过期:基于返回的Token有效期动态设置缓存时间,到期后自动触发刷新,刷新过程同样符合单次请求规则
  • 异常容错:请求失败时设置短缓存周期,避免下游接口故障时触发大量无效重试

内容的提问来源于stack exchange,提问作者S K

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.21 03:06:03