Data Studio连接器多图表并发调用getData() 缓存未命中问题咨询
并发缓存不命中的解决方案
你当前遇到的是典型的并发场景下缓存击穿问题:你现有缓存逻辑的操作流是非原子的——“查缓存→发起API请求→等返回→写缓存”的整个流程没有做并发保护,哪怕两个请求存在百毫秒级的时间差,只要第二个请求的查缓存动作,落在第一个请求的写缓存动作之前,就会全部判定为未命中,和你日志里两次调用间隔152ms的表现完全吻合。
可落地的优化方案
实现单飞(Single Flight)请求合并机制
这是最适配当前场景的方案,不需要改动现有缓存逻辑,只需要在发API请求前加一层同key的请求标记:- 收到
getData()请求时,先根据请求参数生成唯一缓存key,检查是否存在「该key正在拉取数据」的临时标记 - 如果存在标记,说明当前已经有同key的请求在处理中,当前请求不需要重复发API,只需要轮询等待目标缓存写入完成,直接从缓存读取数据返回即可
- 第一个触发同key请求的调用方,正常走原有流程:查缓存→未命中则拉取API→写入缓存→清除临时拉取标记→返回数据
从你贴的日志看两次请求间隔仅150ms左右,这个等待时长完全在用户可接受的范围内,不会造成额外的加载延迟。
- 收到
利用短窗口批量聚合请求
适配Data Studio连接器运行的Apps Script单线程事件循环特性,可以在代码里加一个300ms左右的短时间窗口,把窗口内收到的、参数完全一致的getData()请求做聚合,只发起一次底层API调用拉取数据,拿到结果后分发给所有等待的图表请求。这个实现比硬做互斥锁更稳定,也不需要修改底层缓存的写入逻辑。
关于同步调用的可行性
不建议强制让各图表串行同步调用
getData()。
这种方案虽然能解决缓存不命中的问题,但会把所有图表的加载链路从并行改成串行,本来1s能完成的加载流程会被拉长到和图表数量成正比的时长,反而会降低报表加载速度。
你完全不需要让上层的图表调用串行,只需要保证同参数的底层API请求只实际发起一次即可,上层可以并行接收所有图表的请求,只要让所有同key的请求共用同一个API拉取结果,等结果返回后统一分发就够了。
内容的提问来源于stack exchange,提问作者TJ-Palmer
相关产品推荐
相关产品推荐

