数据库基本原理导图
社区干货
火山引擎新一代数据库的探索与实践
数据库的形态也随之发生了很大变化,各类数据库不断涌现。在基础设施全面云原生化的今天,火山引擎的云原生数据库如何面对数亿日活应用访问下超过 EB 级别的海量存储规模?对于更复杂的非结构化数据类型,火山引擎的... **《云原生数据库 veDB 核心技术剖析与展望》**张雷|火山引擎数据库技术负责人veDB 是一款分布式数据库,采用了云原生计算存储分离架构。本次演讲将为大家介绍火山引擎这款云原生数据库的核心技术原理,并对未...
分布式数据库在抖音春晚活动中的应用
## 分布式数据库架构简介相信对数据库感兴趣的同学对上面这张图也不会陌生。这... 在此基础上慢慢增加规格,看计算和存储性能是否能够相对线性的扩展。经过五六轮的摸底测试之后,最终能在满足业务 SLA 的情况下达到 QPS 要求。- 性能压测:业务方要求 600W+ 的读 QPS 和 360W+ 的写 QPS,我们的性...
硬核干货!一文掌握 binlog 、redo log、undo log|社区征文
来清晰明了的介绍一下这些日志的核心思想和功能原理。## 1 binlog### 1.1 binlog 设计目标binlog 记录了对 MySQL 数据库执行更改的所有的写操作,包括所有对数据库的数据、表结构、索引等等变更的操作。> 注... 避免每个操作都直接写磁盘导致性能降低),只有在事务提交时才会记录 biglog ,此时记录还在内存中,那么 biglog 是什么时候刷到磁盘中的呢?MySQL 其实是通过 sync_binlog 参数控制 biglog 的刷盘时机,取值范围是 0-...
分布式数据库TiDB的设计和架构
他拥有10年+互联网数据库运维经验、在游戏、电商、OTA行业从事过DBA运维工作、在大规模数据库自动化、平台化方面有较资深的落地经验。# 导语市场上有很多数据库产品,如Oracle、MySQL、SQLServer、NoSQL、NewSQ... 线性扩容及能够处理交易类事务的新型数据库,大数据的存储刚需不可避免。NewSQL的挑战在于,它是基于 Google Spanner/F1 论文,未开源它的代码及技术细节,是基础软件最前沿的领域之一,技术门槛最高。NewSQL 代表产品有...
特惠活动
数据库基本原理导图-优选内容
数据库基本原理导图-相关内容
分布式数据库TiDB的设计和架构
他拥有10年+互联网数据库运维经验、在游戏、电商、OTA行业从事过DBA运维工作、在大规模数据库自动化、平台化方面有较资深的落地经验。# 导语市场上有很多数据库产品,如Oracle、MySQL、SQLServer、NoSQL、NewSQ... 线性扩容及能够处理交易类事务的新型数据库,大数据的存储刚需不可避免。NewSQL的挑战在于,它是基于 Google Spanner/F1 论文,未开源它的代码及技术细节,是基础软件最前沿的领域之一,技术门槛最高。NewSQL 代表产品有...
Routine Load
Routine Load 是一种基于 MySQL 协议的异步导入方式,支持持续消费 Apache Kafka的消息并导入至 StarRocks 中。本文介绍 Routine Load 的基本原理、以及如何通过 Routine Load 导入至 StarRocks 中。本文图片和内容... [load_properties][job_properties]FROM data_source[data_source_properties]参数说明: 参数 描述 database_name 选填,目标数据库的名称。 job_name 必填,导入作业的名称。 table_name 必填,目标表的名称。 load_...
达梦@记一次国产数据库适配思考过程|社区征文
若是通过**Mysql或Oracle或其他数据库,文件等方式迁移导入**。这里记录一下迁移过程中遇到的问题,**在迁移的时候,报某些字段超长**。于是,查看了MySql中那些字段的类型及长度,都是varchar(50) 。这里应该是迁移有些... 则会执行图三批量插入insertBatch方法。上例,这样我们就能极其简易的指定 databaseId,很多小伙伴肯定会说为什么需要这样去指定?其背后的原理又是怎样的,我们是否能够扩展并自定义 databaseId?框架这层的应用真能...
什么是数据库传输服务
数据库传输服务 DTS(Database Transmission Service)是一款集数据迁移、同步和订阅于一体的数据流服务,支持关系型数据库、非关系型数据库等数据源间的数据交互,降低数据库之间数据流通的复杂性。帮助您在业务不停服... 非关系型数据库的数据传输。相较于第三方迁移工具,数据库传输服务 DTS 可以更方便地创建和管理丰富多样、高性能、高安全可靠的传输链路。更多详情,请参见产品优势。 架构原理数据库传输服务 DTS 提供不停机迁移解决...
基于云数据库 PostgreSQL 版构建智能交互式问答系统
本文就如何利用云数据库 PostgreSQL 版和大语言模型技术(Large Language Model,简称 LLM),实现企业级智能交互式问答系统进行介绍。通过本文,您将学习了解到:交互式问答系统原理、PostgreSQL 向量化存储和检索技术,... 导致常常出现 AI“幻觉”问题(即 AI 的“一本正经的胡说八道”)。为了解决这一问题,一般会采用以下两种方式进行: Fine Tune 方法,“驯服”大语言模型 利用领域知识,对大语言模型进行监督微调(Supervised Fine Tune...
数据库顶会 VLDB 2023 论文解读:Krypton: 字节跳动实时服务分析 SQL 引擎设计
这是字节跳动基础架构 计算-实时引擎, 创新应用中心, 存储-HDFS & NoSQL 团队共同合作研发的新一代面向复杂业务的实时服务分析系统(HSAP: Hybrid Serving and Analytical Processing),希望能在应对大数据复杂分析场... 这便是公平调度算法的基本原理。 **Serving 场景下特有的优化**1. **Lightweight API**在 Serving 场景下,通常每个 Query 都不是很复杂,返回的结果数量也不多。因此 Coordinator 当发现生成的...
Hive SQL 底层执行过程 | 社区征文
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce ... METASTORE:元数据库。存储 Hive 中各种表和分区的所有结构信息。5. EXECUTION ENGINE:执行引擎。负责提交 COMPILER 阶段编译好的执行计划到不同的平台上。上图的基本流程是:**步骤1**:UI 调用 DRIVER 的接口...
新功能发布记录
本文介绍数据库传输服务 DTS 的产品功能动态和相关文档。 2024 年 04 月功能名称 功能描述 发布时间 发布地域 相关文档 数据迁移或同步任务在增量启动时支持事件告警 在增量迁移或增量同步任务启动时,您可以收到增... 新增支持迁移 MongoDB 4.4 版本的实例 数据库传输服务 DTS 在支持迁移 MongoDB 4.0 版本、 MongoDB 5.0 版本、MongoDB 3.4 版本和 MongoDB 3.6 的实例的基础上,新增支持迁移 MongoDB 4.4 版本的实例。 2023-1...
数据库顶会 VLDB 2023 论文解读 - Krypton: 字节跳动实时服务分析 SQL 引擎设
这是字节跳动基础架构 计算-实时引擎, 创新应用中心, 存储-HDFS & NoSQL 团队共同合作研发的新一代面向复杂业务的实时服务分析系统(HSAP: Hybrid Serving and Analytical Processing),希望能在应对大数据复杂分析场... 这便是公平调度算法的基本原理。## Serving 场景下特有的优化1. **Lightweight** **API**在 Serving 场景下,通常每个 Query 都不是很复杂,返回的结果数量也不多。因此 Coordinator 当发现生成的是一个 Sing...
