图数据库简介和底层原理
社区干货
字节跳动自研万亿级图数据库 & 图计算实践
图数据的分析和计算需求也逐渐显现。在这篇文章中,将从 ByteGraph 的适用场景、内部架构、关键问题分析几个方面作深入介绍,并将介绍图计算相关实践。 自研图数据库(ByteGraph)介绍 ... 为了能够提供海量存储空间和较高的可靠性、可用性,数据必须最终落入磁盘,我们底层存储是选择了公司自研的分布式 KV store。**如何把图存储在 KV 数据库中**上一小节,只是介绍了 ByteGraph 内部三层的关系,细...
Hive SQL 底层执行过程 | 社区征文
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce ... METASTORE:元数据库。存储 Hive 中各种表和分区的所有结构信息。5. EXECUTION ENGINE:执行引擎。负责提交 COMPILER 阶段编译好的执行计划到不同的平台上。上图的基本流程是:**步骤1**:UI 调用 DRIVER 的接口...
分布式数据库在抖音春晚活动中的应用
## 分布式数据库架构简介相信对数据库感兴趣的同学对上面这张图也不会陌生。这... 上图是现有的或者主流的大型数据库系统的架构,它分为三层:- 最上一层是应用,今日头条,抖音,西瓜视频等都是应用。- 中间层是数据库中间件层。- 底层是数据库层以及数据库下面的单机存储。这个架构应该是...
火山引擎 DataLeap 套件下构建数据目录(Data Catalog)系统的实践
并浏览详情介绍,字段描述,产出关系等,进一步的理解和信任数据。另外,Data Catalog系统中的各类元数据,也会向上服务于数据开发、数据治理两大类产品体系。在大数据领域,各类计算和存储系统百花齐放,概念和原理又... 图数据库等系统存储元数据,维护成本很高;接入一种元数据会增加2~3个ETL任务,运维成本直线上升## 新版本目标基于上述痛点,火山引擎 DataLeap 研发人员重新设计实现Data Catalog系统,希望能达成如下目标:- 产...
特惠活动
图数据库简介和底层原理-优选内容
图数据库简介和底层原理-相关内容
分布式数据库在抖音春晚活动中的应用
分布式数据库架构简介 。、HyperLogLog、Geospatial (地理空间)和 Stream(流)等数据类型。接下来我要介绍的是,String 类型的使用技巧和使用场景,以及数据类型底层数据结构原理。**数据类型的使用技法和以及每种数据类型底... MySQL 是你们用的最多的数据库,B+ 树为了维护 ID 的有序性,就会频繁的在索引的中间位置插入而挪动后面节点的位置,甚至导致频繁的页分裂,这对于性能的影响是极大的。2. 全局唯一性,ID 不唯一就会出现主键冲突。3....
如何在大背景下降本增效,构建超大规模存储架构?
并减少数据库压力和成本,我们自研了面向超大规模社交网络的图存储系统 REDtao,大大提高了系统稳定性,它将缓存和底层数据库封装起来,并对外提供统一的图查询 API,实现了访问收敛,同时在缓存中实现了高效的边聚合。 **听众收益:** 图存储系统在社交网络关系的应用和收益。 **田勇 字节跳动** **HDFS** **产品技术负责人** **个人介绍:** 字节跳动 HDFS 产品技术负责人,参与过文件、对象、NoSQL 等多个分布式产品研发,在...
如何在大背景下降本增效,构建超大规模存储架构?
并减少数据库压力和成本,我们自研了面向超大规模社交网络的图存储系统 REDtao,大大提高了系统稳定性,它将缓存和底层数据库封装起来,并对外提供统一的图查询 API,实现了访问收敛,同时在缓存中实现了高效的边聚合。**听众收益:** 图存储系统在社交网络关系的应用和收益。 **田勇 字节跳动** **HDFS** **产品技术负责人****个人介绍:** 字节跳动 HDFS 产品技术负责人,参与过文件、对象、NoSQL 等多个分布式产品研发,在分布...
干货 | 字节跳动构建Data Catalog数据目录系统的实践(上)
> > > 作为数据目录产品,Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据、数据消费者找数和理解数的业务场景,并服务于数据开发和数据治理的产品体系。> 本文介绍了字节跳动Data Catalog系... 图数据库等系统存储元数据,维护成本很高;接入一种元数据会增加2~3个ETL任务,运维成本直线上升。**04 -****新版本目标**基于上述痛点,我们重新设计实现Data Catalog系统,希望能达成如下目标:*...
基于火山引擎 EMR 构建企业级数据湖仓
作者:辛现银,火山引擎开源大数据平台 E-MapReduce 技术架构师> 本文整理自火山引擎开发者社区[技术大讲堂第四期](https://developer.volcengine.com/activity/7127929233808031774)演讲,主要为大家介绍了数据湖仓... 用户无需直接接触底层组件,运维和底层优化都交由商业产品解决,负担就会减轻。而且商业公司还有能力提供上层的 ETL 管道等产品,有了这些产品,用户即可容易地从原有架构迁移到成熟产品上。所以我们看到,**LakeHous...
Elasticsearch 原理与在直播运营平台的实践
在持续建设基于 ES 的跨域数据聚合服务中发现 ES 的很多特性跟 MySQL 等常用数据库差别较大,本文会分享 ES 的实现原理、在直播平台中的业务选型建议及实践中遇到的问题和思考。Elasticsearch 是一种分布式的... ES 以 Lucene 作为底层组件实现所有功能,下文主要介绍 Lucene 具有哪些功能,而 ES 相对于 Lucene 又新增了哪些能力。