数据库技术全景图
社区干货
字节跳动数据库的过去、现状与未来
数据库技术一直是信息技术中极其重要的一环,在步入云原生时代后,云基础设施和数据库进一步整合,弥补了传统数据库的痛点,带来了高可扩展性、全面自动化、快速部署、节约成本、管理便捷等优势。从 2018 到 2021 年,伴随业务和数据的迅猛增长,字节跳动的分布式数据库系统取得了令人振奋的发展。如下图所示,在这 4 年间,公司应用侧容器数量从 5 万个增长到了 750 万个,截至目前已经突破 **1000 万** 。这 1000 万个容器筑成了字节...
火山引擎新一代数据库的探索与实践
数据库的形态也随之发生了很大变化,各类数据库不断涌现。在基础设施全面云原生化的今天,火山引擎的云原生数据库如何面对数亿日活应用访问下超过 EB 级别的海量存储规模?对于更复杂的非结构化数据类型,火山引擎的 NoSQL 能力又如何助力业务成长?7 月 14 日, **火山引擎开发者社区技术大讲堂第三期**邀请到了火山引擎数据库技术负责人和存储&数据库解决方案负责人,为大家分享 **火山引擎新一代数据库的探索与实践**。...
分布式数据库TiDB的设计和架构
它跟其他数据库产品相比,它的核心优势是什么?此次夜校分享,xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。数据库技术发展演进**2008年以前**2008 年以前应用最为广泛的是单机... 图|TiDB整体架构### TiDB ServerSQL 层,对外暴露 MySQL 协议的连接 endpoint,负责接受客户端的连接,执行 SQL 解析和优化,最终生成分布式执行计划。TiDB 层本身是无状态的,实践中可以启动多个 TiDB 实例,通过负...
分布式数据库TiDB的设计和架构
市场上有很多数据库产品,如Oracle、MySQL、SQLServer、NoSQL、NewSQL等,那么目前数据库圈最火的分布式关系型数据库之一TiDB你了解吗?相信很多同学以前听说过TiDB,也知道是一款国人研发的数据库,但你知道TiDB到底是如何实现的?它跟其他数据库产品相比,它的核心优势是什么?此次夜校分享,xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。# 数据库技术发展演进**2008年以前**2008 年以前应用最为...
特惠活动
数据库技术全景图-优选内容
数据库技术全景图-相关内容
字节跳动数据库的过去、现状与未来
[字节跳动数据库的过去、现状与未来](https://mp.weixin.qq.com/s/4Bvo0EBo_xtKdVcqhGynCQ)》,本文根据分享整理而成。数据库技术一直是信息技术中极其重要的一环,在步入云原生时代后,云基础设施和数据库进一步整合,弥补了传统数据库的痛点,带来了高可扩展性、全面自动化、快速部署、节约成本、管理便捷等优势。从 2018 到 2021 年,伴随业务和数据的迅猛增长,字节跳动的分布式数据库系统取得了令人振奋的发展。如下图所示,在这...
未来向量数据库的崛起与多元化场景创新 主赛道 | 社区征文
可用作图像鉴别、检索等任务;**文本向量**:通过词嵌入技术如 Word2Vec、BERT 等生成的文本特征向量,这些向量包含了文本的语义信息,可以用于文本分类、情感分析等任务;**语音向量**:通过声学模型从声音信号中提取的特征向量,这些向量捕捉了声音的重要特性,如音调、节奏、音色等,可以用于语音识别、声纹识别等任务。## 二、向量数据库的优势?向量数据库与传统的关系型数据库有很大提升。传统的关系型数据库是基于表格的数据...
分布式数据库在抖音春晚活动中的应用
## 分布式数据库架构简介相信对数据库感兴趣的同学对上面这张图也不会陌生。这... 同时我们在存储层做了很多高压缩比的技术方案,后面会详细介绍。- 超大容量:支持 TB 甚至 PB 级别的超大容量数据表。### 数据计算引擎解析看了整体架构概览,接下来剖析一下计算引擎。数据库的计算引擎是用来...
抖音大规模实践,火山引擎向量数据库是这样炼成的
技术团队在知识库、生成式AI素材管理等场景,开始尝试提供预设的向量化方法以供业务选择。大多数业务只需要选择一个适合自身数据的向量化方法,即可用原始数据直接写入向量数据库,并用相同的模型将请求数据转换为请求向量进行查询。- **向量数据库技术全景**经过长期的内部探索和优化,抖音采用的向量数据库产品结构如下图所示:基于云基础设施,提供经过深度打磨和优化的各个引擎,提供从多模态数据写入,到向量生成,再到在线检索...
抖音大规模实践,火山引擎向量数据库是这样炼成的
火山引擎向量数据库技术演进之路 **存算分离的分布式架构搭建**在抖音集团内部,早期的向量化检索引擎是围绕搜索、推荐、广告业务来构建的,由于这些业务天然具有极大的数据规模,因此从一开始,就需要思考如何在向量索引中支持百亿数据的检索需求,比如图虫拥有几亿图片素材,数量规模早已超出单机内存的极限,举个例子,对于 1 亿条 128 维的 Float 向量,不考虑任何辅助结构,就需要 100000000 * 128 * 4 b...
一文读懂火山引擎云数据库产品及选型
云原生数据库、分布式数据库等等。每一类数据库中使用不同的技术实现,又可以分化出不同的产品类型。根据DB-Engines的统计,数据库产品数量已经有将近400种,数据库厂商也有几百家,如下图所示,不同数据库产品的实际应... 又出现了NoSQL数据库技术,其理论基础主要是由Eric Brewer提出的CAP定理以及Dan Pritchett提出的BASE原则。再往后,业界将关系型数据库与NoSQL数据库的优势进行了融合,出现了NewSQL数据库,随着云原生技术的入场与爆...
通过客户端运维数据库
通过客户端连接数据库进行运维操作。本文以 Windows 系统的 Navicat for MySQL 客户端工具为例进行介绍。 说明 【邀测】数据库运维属于付费功能,目前处于邀测试用阶段,如需使用,请联系官方技术支持。 前提条件云堡... 如下图所示,依次配置 MySQL 连接的 SSH 信息和常规信息。 配置类 配置项 说明 SSH 使用 SSH 隧道 勾选以使用 SSH 隧道。目前通过云堡垒机连接数据库的实现,必须使用 SSH 隧道,其他方式暂不可用。 主机 SSH 隧道...
达梦@记一次国产数据库适配思考过程|社区征文
写在前面的话,每一篇摘文都以实际案例场景出发,空余时间记录每一次mark历程,在不一样的业务实际场景下,针对项目阶段所产生的变化,制定不一样的技术方案,不论多么渺小的技术方案,放在其对应的场景下都有着不一样的意... 图或表不存在,字段列名不存在的异常。若是通过**Mysql或Oracle或其他数据库,文件...
字节跳动自研万亿级图数据库 & 图计算实践
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/5357a124a5134af89ad57441c53d42a2~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1713975634&x-signature=%2FbWCeU7OSvENcK79RgjTLrLvdJE%3D) 本文将对字节跳动自研的分布式图数据库和图计算专用引擎做深度解析和分享,展示新技术是如何解决业务问题,影响几亿互联网用户的产品体验。来源:字节跳动技术团队...
