图数据库内部数据是有向属性图,其 **基本元素是 Graph 中的点(Vertex)、边(Edge)以及其上附着的属性** ;作为一个工具,图数据对外提供的接口都是围绕这些元素展开。**图数据库本质也是一个存储系统**,它和常见的 KV 存储系统、MySQL 存储系统相比,主要区别在于目标数据的逻辑关系不同和访问模式不同,对于数据内在关系是图模型以及在图上游走类和模式匹配类的查询,比如社交关系查询,图数据库会有更大的性能优势和更加简洁高效...
# 前言从 on-premise 数据库迁移到火山引擎(ECS 自建或是RDS),您可能希望做一次全面的性能测试,本文主要说明在测试前,我们需要提前考虑哪些先决条件。在测试之前,需要尽可能的保证二者具有相同的环境,如网络,实例规格,部署架构,数据库版本,参数配置等。# 网络环境由于公网网络环境的不可预测性,在性能测试时,不论 ECS 自建数据库还是 RDS,请均使用内网环境,即客户端和数据库实例在同一可用区。常见的部署架构有:1. 应用 与...
# 前言从 on-premise 数据库迁移到火山引擎(ECS 自建或是RDS),您可能希望做一次全面的性能测试,本文主要说明在测试前,我们需要提前考虑哪些先决条件。在测试之前,需要尽可能的保证二者具有相同的环境,如网络,实例规格,部署架构,数据库版本,参数配置等。# 网络环境由于公网网络环境的不可预测性,在性能测试时,不论 ECS 自建数据库还是 RDS,请均使用内网环境,即客户端和数据库实例在同一可用区。常见的部署架构有:1. 应用...
向量数据库近来的火热来源于大语言模型的兴起,但在大模型兴起之前,VikingDB 已经在字节内部广泛应用,最初应用在推荐、广告、搜索的召回环节,后来逐步扩展到了消重、风控、对话、文档搜索等需要向量检索的其他场景。在内部推广应用的过程中,VikingDB 经历了非常多样的挑战:超大规模的数据、极致的延迟/性能要求、海量业务场景的接入支持等。为了克服这些困难,我们做了很多架构和性能的优化,以及产品特性的完善。比如:* 架构层...
本文介绍以 Memtier-benchmark 工具测试缓存数据库 Redis 版实例性能的详细方法和测试结果,您可以按照本文介绍自行测试对比,快速了解数据库系统的性能。 测试环境测试所用的 ECS 实例和缓存数据库 Redis 版实例均在同一地域、同一可用区。本测试中为华北 2(北京)可用区 A。 网络类型均为私有网络 VPC。 说明 ECS 实例和 Redis 实例需保证在同一个 VPC中。 测试所用缓存数据库 Redis 版实例 数据库版本为 Redis 5.0。 实例类型...
向量数据库近来的火热来源于大语言模型的兴起,但在大模型兴起之前,VikingDB 已经在字节内部广泛应用,最初应用在推荐、广告、搜索的召回环节,后来逐步扩展到了消重、风控、对话、文档搜索等需要向量检索的其他场景。在内部推广应用的过程中,VikingDB 经历了非常多样的挑战:超大规模的数据、极致的延迟/性能要求、海量业务场景的接入支持等。为了克服这些困难,我们做了很多架构和性能的优化,以及产品特性的完善。比如:* 架构层...
用图片搜索图片或者文本搜索文本时,在数据库中存储和对比的并不是图片和视频片段,而是通过深度学习等算法将其提取出来的“特征”,“特征”提取的过程称为 Embedding,提取出的“特征”用数学中的向量来表示。向量化... 通过一系列性能优化工作,如降低内存占用、优化索引性能、CPU指令集计算优化、优化过滤和重排序等业务相关的计算过程,这套架构可以很好解决各类业务场景的离线和在线检索计算需求,相同检索精度下的吞吐和时延相比开...
这三种数据关联到一起就会形成图状结构。### 自研分布式图数据库为了满足内部 social graph 在线增删改查的场景,字节跳动自研了分布式图存储数据库 ByteGraph。针对刚才提到的图状数据结构,ByteGraph 支持有向属... 但是图数据比较特殊,天生就有关联性,无法像以前常用的行式数据一样直接切割。如果用批处理系统来运行图的算法,就需要引入大量 shuffle 操作来实现关系的连接。但 shuffle 操作非常重,不仅会导致任务的运行时间变...
我们通过对比前后两天的血缘快照文件,来获取血缘的变更情况,然后把这些变更加载到图中。除此之外,血缘中涉及的元数据会冗余一份,并存储到图里。- 在血缘存储方面(见上图右边部分),除了图数据库之外,血缘本身... 保存到图的节点中,如当前节点下游总节点数量、下游层级数量等。采用预先计算的目的是为了“用空间换时间”,在产品对外展示的功能上可能要露出数据信息,如果从图里实时查询可能影响性能,因此采用空间换时间的方式...
> **王志雷**,火山引擎存储&数据库解决方案架构师,专注于存储&数据库产品的解决方案规划、设计和拓展工作。 > **贾伟力**,火山引擎存储&数据库解决方案架构师,专注于存储&数据库产品的解决方案规划、设计和拓展... 调研应用的系统架构图,数据库信息,系统整体压力情况,系统底层部署情况,商业软件依赖等等方面内容。 2. **规划设计:** 根据当前应用以及性能数据进行容量规划,根据业务场景确定搬迁方式、迁移步骤,为每个业务系统...
我们遇到了比较多的性能问题。 **本文以Data Catalog系统升级过程为例,与大家讨论业务系统性能优化方面的思考,也会介绍字节跳动关于Apache Atlas相关的性能优化。**> > > > > ![picture.image]... 引入了字节内部的图数据库veGraph,写入时,需要业务层处理MySQL、ElasticSearch和veGraph三种存储,模型也需要同时理解关系型和图两种。更多的背景可以参照之前的[文章](https://mp.weixin.qq.com/s?__biz=MzkwMzMw...
图数据库等系统存储元数据,维护成本很高;接入一种元数据会增加2~3个ETL任务,运维成本直线上升## 新版本目标基于上述痛点,火山引擎 DataLeap 研发人员重新设计实现Data Catalog系统,希望能达成如下目标:- 产... 与当前Catalog系统的元数据做对比,并更新差异的部分 - MQ:用于暂存各类元数据增量消息,供Catalog系统近实时消费 - 与上游系统打交道的各类Clients,封装了操作底层资源的能力### 核心服务层系统的核...
# 简介众所周知,在数据库存储引擎侧通常有两类存储模型,行式存储NSM(N-ary Storage Model)和列式存储DSM(Decomposition Storage Model),两种存储模型各有其特定的擅长场景。在以前,主流存储设备是机械磁盘的情况下,数据一般采用一个一个的数据块进行存储,利用顺序读写提升性能。行存的实现一般是将一行数据完整的从头到尾连续存储(超长的字段一般会单独存储,行内记录逻辑地址),连续多行构成一个页,页的尾部通常会存储索引来解决...