对于一些Query Fragment的selectivity估算信息也会cache下来,最后Query 执行的结果也会被Cache 住,这种通常使用在数据不经常更新,相同 Queries 比较多的场景下。另外,Krypton 也会 Cache Query 执行的一些中间结果,可以更有效的被其他的 Query 使用。3. **Statistics**1. **Incremental Stats:** Krypton 动态的维护了 Table Row Count 和 Column 的 NDV。NDV 使用了 HLL 来进行增量的计算。Ingestion Server Flush 数据的时候...
多个系统之间的 ETL 也浪费了大量的资源, 同时对于研发人员来讲,也不得不学习维护多套系统。为了解决这个问题,我们开启了 Krypton 项目,这是字节跳动基础架构 计算-实时引擎, 创新应用中心, 存储-HDFS & NoSQL 团队... **存算分离** - Krypton 的数据存放在了 Cloud Store 上,例如:HDFS、标准对象存储接口 S3 等;元数据也放在了外部的存储系统中,例如:ZK 及分布式 KV 等系统。1. **读写分离** - Ingestion Server 负...