创建刷新数据流问题:每日dump关联在线流存在4小时空缺如何解决
流数据与日更dump关联0-4点无匹配问题解决方案
方案1:调整时间对齐逻辑,使用T-1日dump承接当日0-4点请求
- 首先明确dump的生效周期规则:将当日4点生成的dump,定义为当日4点~次日4点的生效周期,而非自然日0点-24点
- 流关联逻辑调整:0点-4点的online stream数据自动关联上一日生成的dump,4点后自动切换关联当日新生成的dump
- 数据对账适配:每日统计自然日优惠数据时,只需将前一日4点至当日4点的关联结果,按自然日0点做切分汇总即可,不影响业务侧的每日数据更新要求
方案2:预生成dump影子版本,提前完成数据加载
- 如果业务要求必须严格按自然日0点启用当日dump,可调整dump生成的调度逻辑:将当日dump的生成时间提前到前一日的23点前完成,生成后先存为预发布版本,流计算侧提前将预发布版本加载到lookup缓存,0点自动切换生效
- 此方案无需调整关联窗口大小,也不会出现0-4点无匹配的问题,同时保证每日0点准时更新当日数据
方案3:双流关联的补全机制适配
- 若dump生成时间无法提前,也不想调整生效周期,可在原有24小时窗口关联的基础上,新增数据补全流程:
- 0-4点产生的无匹配数据先做标记暂存
- 当日4点dump生成完成后,自动触发对暂存的0-4点数据的回关联操作
- 关联命中的记录补发优惠通知即可,适合对优惠实时性要求不高的业务场景
以上3种方案均无需拉长全局关联窗口,可严格保证每日dump的更新规则,可根据自身业务的实时性要求、调度调整成本选择适配方案。
内容的提问来源于stack exchange,提问作者nesmaalshazly
相关产品推荐
相关产品推荐

