You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Medallion Architecture青铜层:数据归档/拒绝判定及后续处理咨询

Medallion Architecture青铜层的数据归档、拒绝规则及后续处理

一、归档(Archive)的触发时机

  • 原始数据(Raw层)完成初步校验、Stage层临时处理(格式转换、基础清洗),且已成功同步到银/金层,短期内不会被频繁调用时,归档到Archive文件夹。
  • 超过预设保留周期的历史有效数据,为了合规留存或释放Raw/Stage层存储资源,也会归档到Archive层。

二、拒绝(Reject)的触发场景

如果青铜层包含Raw、Stage、Archive、Reject四个文件夹,以下情况的数据会被推送到Reject文件夹:

  • 数据存在严重格式问题:比如无法解析的文件格式、编码乱码到无法修复、字段结构完全不符合约定规范。
  • 核心业务字段校验失败:比如交易数据的金额为负数且无合理逻辑支撑、用户ID为空且无法补全,且没有有效补录渠道。
  • 数据来源不可信:比如签名验证失败、哈希值不匹配,确认数据被篡改或来源非法。
  • 无效重复/异常数据:比如100%重复的无效数据、数据量远超预期阈值且无法核实合理性,无法通过自动逻辑修正。

三、Reject文件夹的后续取用规则

被推送到Reject文件夹的数据,后续阶段不会直接从这里取用。只有当这些数据经过人工修复(补全字段、修正格式、核实来源等)并重新通过校验后,才会重新进入Raw或Stage层,参与正常的数据流处理。


内容的提问来源于stack exchange,提问作者Charubala

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.11 21:12:05