Medallion Architecture青铜层:数据归档/拒绝判定及后续处理咨询
Medallion Architecture青铜层的数据归档、拒绝规则及后续处理
一、归档(Archive)的触发时机
- 原始数据(Raw层)完成初步校验、Stage层临时处理(格式转换、基础清洗),且已成功同步到银/金层,短期内不会被频繁调用时,归档到Archive文件夹。
- 超过预设保留周期的历史有效数据,为了合规留存或释放Raw/Stage层存储资源,也会归档到Archive层。
二、拒绝(Reject)的触发场景
如果青铜层包含Raw、Stage、Archive、Reject四个文件夹,以下情况的数据会被推送到Reject文件夹:
- 数据存在严重格式问题:比如无法解析的文件格式、编码乱码到无法修复、字段结构完全不符合约定规范。
- 核心业务字段校验失败:比如交易数据的金额为负数且无合理逻辑支撑、用户ID为空且无法补全,且没有有效补录渠道。
- 数据来源不可信:比如签名验证失败、哈希值不匹配,确认数据被篡改或来源非法。
- 无效重复/异常数据:比如100%重复的无效数据、数据量远超预期阈值且无法核实合理性,无法通过自动逻辑修正。
三、Reject文件夹的后续取用规则
被推送到Reject文件夹的数据,后续阶段不会直接从这里取用。只有当这些数据经过人工修复(补全字段、修正格式、核实来源等)并重新通过校验后,才会重新进入Raw或Stage层,参与正常的数据流处理。
内容的提问来源于stack exchange,提问作者Charubala
相关产品推荐
相关产品推荐

