今天就跟大家一起,来清晰明了的介绍一下这些日志的核心思想和功能原理。## 1 binlog### 1.1 binlog 设计目标binlog 记录了对 MySQL 数据库执行更改的所有的写操作,包括所有对数据库的数据、表结构、索引等等... 我们可以把数据库的数据看做银行账户里的余额,而 binlog 就相当于我们银行卡的流水记录。账户余额只是一个结果,至于这个结果怎么来的,那就必须得看流水了。在实际应用中, binlog 的主要应用场景分别是 **主从复制...
这张图是 DB Engines 的数据库排名,准确来说是一个关系型数据库的排名。在 2021 年 4 月份的榜单上,MySQL 和 PG 都是关系型数据库的 Top5。这就意味着,如果我们想做一款数据库产品,大概率永远都绕不过 MySQL 和 PG... 我们为什么还需要去开发分布式数据库?这个问题的答案其实也比较显而易见,就是原有的架构不能很好地满足我们内部应用的需求,所以我们才会去寻找第二条路。![image.png](https://p1-juejin.byteimg.com/tos-cn-i-...
对上面这张图不会陌生。这张图是 DB Engines 的数据库排名,准确来说是一个关系型数据库的排名。在 2021 年 4 月份的榜单上,MySQL 和 PG 都是关系型数据库的 Top5。这就意味着,如果想做一款数据库产品,大概率永远... 我们为什么还需要去开发分布式数据库?这个问题的答案其实也比较显而易见,就是原有的架构不能很好地满足我们内部应用的需求,所以我们才会去寻找第二条路。![picture.image](https://p3-volc-community-sign.byte...
数据库的形态也随之发生了很大变化,各类数据库不断涌现。在基础设施全面云原生化的今天,火山引擎的云原生数据库如何面对数亿日活应用访问下超过 EB 级别的海量存储规模?对于更复杂的非结构化数据类型,火山引擎的... **《云原生数据库 veDB 核心技术剖析与展望》**张雷|火山引擎数据库技术负责人veDB 是一款分布式数据库,采用了云原生计算存储分离架构。本次演讲将为大家介绍火山引擎这款云原生数据库的核心技术原理,并对未...
主要介绍了 NoSQL 的前世今生和发展脉搏,以及字节跳动 NoSQL 的实践。 作者:王佳毅|火山引擎存储&数据库解决方案负责人 NoSQL 应用的现状 什么是 NoSQL?我们知... 从图数据库又引申出来一个非常大的概念——图计算。举个例子,在 Google 上搜索时,需要基于网页的链接关系计算每个页面的 page rank,从而对页面进行排序。页面的链接关系其实就是一张图,基于网页链接关系的 page ra...
本文将对字节跳动自研的分布式图数据库和图计算专用引擎做深度解析和分享,展示新技术是如何解决业务问题,影响几亿互联网用户的产品体验。来源:字节跳动技术团队图状结构数据广泛存在 ... 下面这张图展示了 ByteGraph 的内部架构,其中 bg 是 ByteGraph 的缩写。就像 MySQL 通常可以分为 SQL 层和引擎层两层一样,ByteGraph 自上而下分为 **查询层 (bgdb)** 、 **存储/事务引擎层(bgkv)** 、 **磁盘...
缓存的工作原理是这样的:1. 当客户端连接,caching\_sha2\_password 检查 username/SHA256(SHA256(user\_password)) 是否匹配了缓存条目。如果匹配,验证成功。2. 如果没有匹配的缓存条目,插件会继续与客户端交换... 官方在源码文档里面提供有一张图和说明可以参考,地址在文末。**改变了什么呢?** 在 MySQL 8.0.4 之后创建的所有新用户将默认使用 caching\_sha2\_password 作为他们的身份验证插件。``` ...
或是通过 SpringBoot 的 Actuator 模块实现了本地应用的监控与管理,或者通过 javamelody 对 Tomcat 应用进行线程级别的监控(参考我另一篇文章:《[一文看懂:性能监控神器JavaMelody](https://xie.infoq.cn/link?tar... 存储到数据库(BigTable)中;又或者,特定请求的元数据信息,从服务请求中剥离出来,发送给一个异常收集服务,如 NewRelic。**(3)Tracing:** 特点是它在单次请求的范围内,处理信息。任何的数据、元数据信息都被绑定到系...
再把它们塞到一张图后整张图变得不可读,它的意义就不大了。第二点,如果一个微服务的实例数只有几十个,这时实例的管理是比较简单的,如果实例数超过 300,那么团队不可避免地会需要使用一些分片策略或是长连接策略... 如果用户想要在域外访问这个数据库,我们需要通过左下角的 Query、ETL 把它转化成一个离线数据库。整个大框是一个 domain,它不同于 DDD 的 domain,它被称为服务域,可以理解成是一组服务的集合。字节跳动内部也参考了...
**APP 应用层**该层主要的工作是把实时汇总数据写入应用系统的数据库中,包括用于大屏显示和实时 OLAP 的 Druid 数据库(该数据库除了写入应用数据,也可以写入明细数据完成汇总指标的计算)中,用于实时数据接口服务... 第一张图是春晚活动的预热场景,相当于是一种玩法,第二和第三张图是春晚当天的发红包活动和直播间截图。在活动进行过程中,我们发现 60~70% 的需求是计算页面里的信息,如:- 这个页面来了多少人,或者有多少人点击...
更灵活的应用。2. ## **字节**数据湖Apache Hudi有下面非常重要的特性:- Hudi不仅仅是数据湖的一种存储格式(Table Format),而是提供了Streaming 流式原语的、具备数据库、 数据仓库核心功能(高效upsert/d... 下面这张图展示的是数仓研发人员较为熟悉的离线和实时数仓的架构:从业务系统中抽取数据,ODS 层到 App 层逐层加工。离线和实时数仓的数据交互主要发生在DIM维表,对于缓慢变化的属性信息,会加工离线的数据,导入到实时...
更灵活的应用。## **1.2 字节数据湖**Apache Hudi有下面非常重要的特性:- Hudi不仅仅是数据湖的一种存储格式(Table Format),而是提供了Streaming 流式原语的、具备数据库、 数据仓库核心功能(高效upsert/d... **下面这张图展示的是数仓研发人员较为熟悉的离线和实时数仓的架构:** 从业务系统中抽取数据,ODS 层到 App 层逐层加工。离线和实时数仓的数据交互主要发生在DIM维表,对于缓慢变化的属性信息,会加工离线的数据,导入...
本文将从数据血缘应用背景、发展概况、架构演讲以及未来展望四部分,为大家介绍数据血缘在字节跳动进化史。# 背景介绍### 1.数据血缘是数据资产平台的重要能力之一在火山引擎 DataLeap 中,数据资产平台主要提... 除了图数据库之外,血缘本身也会依赖元数据的存储,如 Mysql 以及索引类存储。- 在血缘消费层面,第一版只支持通过 API 进行消费。**最后总结该版本的三个关键点:**- 血缘数据每天以离线方式**全量更新**。...