图数据库建模研究
社区干货
字节跳动自研万亿级图数据库 & 图计算实践
图数据的分析和计算需求也逐渐显现。在这篇文章中,将从 ByteGraph 的适用场景、内部架构、关键问题分析几个方面作深入介绍,并将介绍图计算相关实践。 自研图数据库(ByteGraph)介绍 从数据模型角度看,图数据库内部数据是有向属性图,其 **基本元素是 Graph 中的点(Vertex)、边(Edge)以及其上附着的属性** ;作为一个工具,图数据对外提供的接口都是围绕这些元素展开。**图数据库本质也是一...
浅谈大数据建模的主要技术:维度建模 | 社区征文
数据库的数据仓库,其实都面临如下问题:- 怎么组织数据仓库中的数据?- 怎么组织才能使得数据的使用最为方便和便捷?- 怎么组织才能使得数据仓库具有良好的可扩展性和可维护性?> **Ralph Kimball 维度建模理论很... 在设计其维度模型时,表示顾客购买事件的事实表的一行即可以记录一张顾客的小票,也可以记录顾客小票的一个子项。> **那么我们究竟应该到何种级别呢?**维度建模认为事实表应该包含最底层的、最原子性的细节,因为...
火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路
并存储到图里。- 在血缘存储方面(见上图右边部分),除了图数据库之外,血缘本身也会依赖元数据的存储,如 Mysql 以及索引类存储。- 在血缘消费层面,第一版只支持通过 API 进行消费。**最后总结该版本的三个关键点:**- 血缘数据每天以离线方式**全量更新**。- 通过对比血缘快照来判断血缘更新操作,后面将为大家详细解答为什么要通过对比的方式。- 冗余一份元数据存储到图数据库中。### 存储模型![picture.ima...
[数据库系统] 业界列式存储浅析
# 简介众所周知,在数据库存储引擎侧通常有两类存储模型,行式存储NSM(N-ary Storage Model)和列式存储DSM(Decomposition Storage Model),两种存储模型各有其特定的擅长场景。在以前,主流存储设备是机械磁盘的情况... 列存的主要研究领域还是停留在怎么样打破内存墙,在2001年,Ailamaki等人提出了PAX(Partition Attributes Cross)【1】格式,开始研究怎么样结合列存的优势到行存中。2017年 google spanner 发表论文【2】,描述了自己如...
特惠活动
图数据库建模研究-优选内容
图数据库建模研究-相关内容
火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路
并存储到图里。- 在血缘存储方面(见上图右边部分),除了图数据库之外,血缘本身也会依赖元数据的存储,如 Mysql 以及索引类存储。- 在血缘消费层面,第一版只支持通过 API 进行消费。**最后总结该版本的三个关键点:**- 血缘数据每天以离线方式**全量更新**。- 通过对比血缘快照来判断血缘更新操作,后面将为大家详细解答为什么要通过对比的方式。- 冗余一份元数据存储到图数据库中。### 存储模型![picture.ima...
[数据库系统] 业界列式存储浅析
# 简介众所周知,在数据库存储引擎侧通常有两类存储模型,行式存储NSM(N-ary Storage Model)和列式存储DSM(Decomposition Storage Model),两种存储模型各有其特定的擅长场景。在以前,主流存储设备是机械磁盘的情况... 列存的主要研究领域还是停留在怎么样打破内存墙,在2001年,Ailamaki等人提出了PAX(Partition Attributes Cross)【1】格式,开始研究怎么样结合列存的优势到行存中。2017年 google spanner 发表论文【2】,描述了自己如...
[数据库论文研读] HTAP行列混存 & 智能转换
称为HTAP数据库罢了。这么做的话数据仍然要存两份(row & column),管控面的麻烦从外部转移到内部而已,并没有什么实际的架构创新。**所以,本论文提出了一种新的想法,**不再“分而治之”,而是要构建一个统一的存储层... 原本很多系统采用的是Volcano模型(open-next-close语义,参考[Volcano](https://ieeexplore.ieee.org/document/273032/keywords)),传统Volcano模型是典型的tuple-at-a-time的处理方式,CPI比较高,且无法做loop pipel...
字节跳动 NoSQL 的探索与实践
这三种数据关联到一起就会形成图状结构。### 自研分布式图数据库为了满足内部 social graph 在线增删改查的场景,字节跳动自研了分布式图存储数据库 ByteGraph。针对刚才提到的图状数据结构,ByteGraph 支持有向属性的图数据模型、Gremlin 查询语言以及丰富的写入和查询接口,具有海量存储和吞吐能力,单体集群可达万亿条边,支持百万 QPS 图上多度读写。ByteGraph 也支持 Super Node 热点访问,单个过亿出度节点 10K 量级 QPS 毫秒...
未来向量数据库的崛起与多元化场景创新 主赛道 | 社区征文
随着大模型的兴起,向量数据库越来越成为开发者关注的重点。## 一、概述:随着人工智能时代的来临,我们要更有效的解决图象、语音和视频等各种非结构化数据。这种信息往往有复杂的关...
字节跳动 NoSQL 的探索与实践
这三种数据关联到一起就会形成 **图状结构** 。**自研分布式图数据库**为了满足内部 social graph 在线增删改查的场景,字节跳动自研了 **分布式图存储数据库 ByteGraph** 。针对刚才提到的图状数据结构,ByteGraph 支持有向属性的图数据模型、Gremlin 查询语言以及丰富的写入和查询接口,具有海量存储和吞吐能力,单体集群可达万亿条边,支持百万 QPS 图上多度读写。ByteGraph 也支持 Super Node 热点访问,单个过亿出度节点...
抖音大规模实践,火山引擎向量数据库是这样炼成的
如何用好大模型是当前各行各业瞩目的焦点。向量数据库作为大模型“记忆体”,不仅能够为其提供数据存储,而且能通过数据检索、分析让大模型进行知识增强,成为生成式 AI 应用开发新范式的重要组成部分。用图片搜索图片或者文本搜索文本时,在数据库中存储和对比的并不是图片和视频片段,而是通过深度学习等算法将其提取出来的“特征”,“特征”提取的过程称为 Embedding,提取出的“特征”用数学中的向量来表示。向量化的目的是为了...
火山引擎DataLeap:「数据血缘」踩过哪些坑?来看看字节跳动内部进化史
并存储到图里。**在血缘存储方面(见上图右边部分),**除了图数据库之外,血缘本身也会依赖元数据的存储,如 Mysql 以及索引类存储。 **在血缘消费层面,** 第一版只支持通过API 进行消费。**最后总结该版本的三个关键点:**1. 血缘数据每天以离线方式全量更新。2. 通过对比血缘快照来判断血缘更新操作,后面将为大家详细解答为什么要通过对比的方式。3. 冗余一份元数据存储到图数据库中。### **存储模型**