数据库设计中的物理图
社区干货
火山引擎ByteHouse:分析型数据库如何设计列式存储
> 更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群 列式存储通过支持按列存储数据,提供高性能的数据分析和查询。作为云原生数据仓库的 ByteHouse,也采用列式存储设计,保证读写性能、支持事务一致性,又适用大规模的数据计算,为用户提供极速分析体验和海量数据处理能力,提升企业数字化转型能力。# 列式存储介绍分析型数据库中的列式存储,是一种数据库的物理存储结构,它是根据数据的列...
分布式数据库TiDB的设计和架构
也知道是一款国人研发的数据库,但你知道TiDB到底是如何实现的?它跟其他数据库产品相比,它的核心优势是什么?此次夜校分享,xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。数据库技术发展演进**2008年以前**2008 年以前应用最为广泛的是单机关系型数据库(SQL),能很好的解决复杂的数据运算及表间处理,多用于银行、电信等传统行业复杂业务逻辑场景中,以 Oracle 为代表。此类数据库挑战在于成本高...
分布式数据库TiDB的设计和架构
也知道是一款国人研发的数据库,但你知道TiDB到底是如何实现的?它跟其他数据库产品相比,它的核心优势是什么?此次夜校分享,xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。# 数据库技术发展演进**2008年以前**2008 年以前应用最为广泛的是单机关系型数据库(SQL),能很好的解决复杂的数据运算及表间处理,多用于银行、电信等传统行业复杂业务逻辑场景中,以 Oracle 为代表。此类数据库挑战在于成本...
PostgreSQL中的物理复制和逻辑复制
# 前言PostgreSQL 在 9.0 之前并未支持流式复制,备库总是落后主库一个 WAL log,在 9.0 之后 PostgreSQL 提供了流式复制,备库不断从主库同步相应的数据,并应用每个 WAL record。在 PostgreSQL 9.4 开始,PostgreSQL 提供了逻辑流复制功能,至此,PostgreSQL 拥有了更加完备的数据同步方式,解决了物理流复制无法覆盖的一些场景。本章内容将介绍物理复制与逻辑复制的一些差别。## 参数配置差异我们知道在 PostgreSQL 中如果想要实...
特惠活动
数据库设计中的物理图-优选内容
数据库设计中的物理图-相关内容
火山引擎ByteHouse:分析型数据库如何设计并发控制?
> 更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群 分析型数据库设计并发控制的主要原因是为了确保数据的完整性和一致性,同时提高数据库的吞吐量和响应速度。并发控制可以... 缺点是不适合跨数据中心的场景,所有事务从tso获取时间延迟较高。由于TSO是中心化授时方案,ByteHouse为其提供了高可用服务。TSO使用混合逻辑时钟,时钟由物理部分和逻辑部分组成,64位表示一个时间。为了避免TSO宕机...
[数据库论文研读] HTAP行列混存 & 智能转换
指向原物理Tile的一列或多列。**同时逻辑Tile里还维护了一个bitmap,记录哪些数据是存在的,哪些是不存在的。**- Materialization(物化):把逻辑Tile存储的“指针(offset)”转化为具体数据的操作*NOTE:- 一个逻辑Tile对应一个物理的Tile Group- 逻辑Tile里的不同列可以指向物理Tile里的同一列,如上图逻辑Tile的第二列指向了Tile A-2的第一列,逻辑Tile的第三列也指向了Tile A-2的第一列- 当逻辑Tile要转化为物理Tile的...
VikingDB:大规模云原生向量数据库的前沿实践与应用
向量数据库近来的火热来源于大语言模型的兴起,但在大模型兴起之前,VikingDB 已经在字节内部广泛应用,最初应用在推荐、广告、搜索的召回环节,后来逐步扩展到了消重、风控、对话、文档搜索等需要向量检索的其他场景。在内部推广应用的过程中,VikingDB 经历了非常多样的挑战:超大规模的数据、极致的延迟/性能要求、海量业务场景的接入支持等。为了克服这些困难,我们做了很多架构和性能的优化,以及产品特性的完善。比如:* 架构层...
数据库顶会 VLDB 2023 论文解读:Krypton: 字节跳动实时服务分析 SQL 引擎设计
上图是字节典型的广告后端架构,数据通过 Kafka 流入不同的系统。对于离线链路,数据通常流入到 Spark/Hive 中进行计算,结果通过 ETL 导入到 HBase/ES/ClickHouse 等系统提供在线的查询服务。对于实时链路, 数据会直... 另一方面数据会流入到 ClickHouse/Druid 提供在线的查询聚合服务。这带来的问题就像引言中所说,数据被冗余存储了多份,导致了很多一致性问题,也造成了大量的资源浪费。为了解决这个问题,我们设计了 Krypton(HSAP),系...
字节跳动数据库的过去、现状与未来
> 日前,字节跳动技术社区 ByteTech 举办的第四期字节跳动技术沙龙圆满落幕,本期沙龙以《字节云数据库架构设计与实战》为主题。在沙龙中,字节跳动基础架构数据库资深工程师张雷,跟大家分享了《[字节跳动数据库的过去... 弥补了传统数据库的痛点,带来了高可扩展性、全面自动化、快速部署、节约成本、管理便捷等优势。从 2018 到 2021 年,伴随业务和数据的迅猛增长,字节跳动的分布式数据库系统取得了令人振奋的发展。如下图所示,在这...
通过物理备份文件恢复至自建数据库
文档数据库 MongoDB 版支持备份文件下载功能,您可以将备份文件下载到本地,并通过备份文件将数据恢复到本地自建 MongoDB 数据库中进行离线分析或性能测试等。 前提条件在本地或 ECS 服务器上安装对应版本的 MongoDB,安装方法请参见 MongoDB Start Guide。本文操作步骤以安装在 云服务器 ECS 实例的 MongoDB 为例,其中 MongoDB 版本为 4.0。 在安装了 MongoDB 的服务器上,创建物理恢复操作的数据库所在目录。本文操作步骤以 /root/...
一文读懂火山引擎云数据库产品及选型
监控数据等场景。对于时间序列相关的数据,时序型 NoSQL 数据库的处理与关系型数据库的处理方式是不一样的,时序型 NoSQL 数据库主要是有效地收集、存储和查询高频产生的各种时间序列数据,对此做了专门的设计和优化,专门用于这类场景。图 NoSQL 数据库主要用于处理“关系”数据。这里的“关系”不是关系型数据库中的关系,而是指不同对象之间的联系。例如,社交关系(人与人的关系)、推荐关系(人与物的关系)、关联关系(物与物的关系...
未来向量数据库的崛起与多元化场景创新 主赛道 | 社区征文
我们要更有效的解决图象、语音和视频等各种非结构化数据。这种信息往往有复杂的关系和模式,不能用传统的结构型数据来表示与分析。向量数据可以在多维空间中提到数据的特点,能通过深度学习模型来达到最准确、更有效的数据解决与分析。它的核心思想是以向量(也称为嵌入向量或特征向量)为数据的基本单元,用于存储、检索和查询大规模的高维数据。它以多维向量的形式保存信息。根据数据的复杂性和细节,每个向量的维数变化很大,从几个...
分布式数据库在抖音春晚活动中的应用
我们为什么还需要去开发分布式数据库?这个问题的答案其实也比较显而易见,就是原有的架构不能很好地满足我们内部应用的需求,所以我们才会去寻找第二条路。上图是现有的或者主流的大型数据库系统的架构,它分为三层:- 最上一层是应用,今日头条,抖音,西瓜视频等都是应用。- 中间层是数据库中...
