数据库优化索引
社区干货
Elasticsearch 原理与在直播运营平台的实践
**单实例-索引**索引存在的目的是加速检索过程,索引选型是所有数据库都无法回避的问题,ES 设计之初的目标场景是全文检索,所以支持“倒排索引”,并对此进行了多项优化。除此之外,还支持 Block Kd Tree 等其他索引,ES 会按字段类型自动匹配对应的索引类型,为需要索引的字段构建索引。倒排索引和 Block Kd Tree 也是分析常用的索引类型。对于字符串,有两种常见情况:Text 采用分词+倒排索引,而 Keyword 则使用不分词+...
PostgreSQL 开发运维最佳实践
# 前言这篇文章旨在提供 RDS for PostgreSQL 的一些开发和运维建议,以助您提升数据库使用的标准化和稳定性。# 性能与稳定性* 慎用子事务,避免事务中使用过多的子事务。* 游标使用后及时关闭。* 对于在线业务,建议使用 CREATE INDEX CONCURRENTLY 方法创建索引,以避免阻塞其他会话在目标索引表上的 DML 操作。* 对于重建索引操作,在 PostgreSQL 12 及以上大版本,推荐使用 REINDEX CONCURRENTLY。PostgreSQL 11 及下大版本,...
VikingDB:大规模云原生向量数据库的前沿实践与应用
基于指令集的计算优化、GPU 加速等;* 产品特性层面:除了基础的 ANN 检索功能外,支持了Hybrid (Dense&Sparse) 检索、磁盘索引(DiskANN)、基于向量的粗排打散等。在内部产品的不断迭代过程中,VikingDB 也逐渐契合云原生的理念,为孵化商业化向量数据库产品打下了坚实的基础。依托于 VikingDB 在字节内部积累的丰富经验,我们在火山引擎推出了 VikingDB 的商业化版本,以更好地对外部客户进行赋能。**应用:Retrieval-Augmented...
[数据库系统] 业界列式存储浅析
# 简介众所周知,在数据库存储引擎侧通常有两类存储模型,行式存储NSM(N-ary Storage Model)和列式存储DSM(Decomposition Storage Model),两种存储模型各有其特定的擅长场景。在以前,主流存储设备是机械磁盘的情况下,数据一般采用一个一个的数据块进行存储,利用顺序读写提升性能。行存的实现一般是将一行数据完整的从头到尾连续存储(超长的字段一般会单独存储,行内记录逻辑地址),连续多行构成一个页,页的尾部通常会存储索引来解决...
特惠活动
数据库优化索引-优选内容
数据库优化索引-相关内容
自建高性能数据库-选型与性能测试
TiKV 内存数据库 亚毫秒级延迟,每秒百万级操作,支持多种编程语言,可配合各种数据库使用。 缓存、会话管理、游戏排行榜、地理位置信息,实时分析 Redis、Memcached 文档数据库 结构灵活,半结构数据,层次化,快速查询,强大的索引能力。 内容管理、客户画像、用户配置文件、个性化、移动应用 MongoDB、Couchbase 宽列 结构灵活,高扩展性,单行数据较大。 用于设备维护、队列管理和路线优化的大规模工业应用程序、实时数据分析 Cassandr...
VikingDB:大规模云原生向量数据库的前沿实践与应用
基于指令集的计算优化、GPU 加速等;* 产品特性层面:除了基础的 ANN 检索功能外,支持了Hybrid (Dense&Sparse) 检索、磁盘索引(DiskANN)、基于向量的粗排打散等。在内部产品的不断迭代过程中,VikingDB 也逐渐契合云原生的理念,为孵化商业化向量数据库产品打下了坚实的基础。依托于 VikingDB 在字节内部积累的丰富经验,我们在火山引擎推出了 VikingDB 的商业化版本,以更好地对外部客户进行赋能。**应用:Retrieval-Augmented...
[数据库系统] 业界列式存储浅析
# 简介众所周知,在数据库存储引擎侧通常有两类存储模型,行式存储NSM(N-ary Storage Model)和列式存储DSM(Decomposition Storage Model),两种存储模型各有其特定的擅长场景。在以前,主流存储设备是机械磁盘的情况下,数据一般采用一个一个的数据块进行存储,利用顺序读写提升性能。行存的实现一般是将一行数据完整的从头到尾连续存储(超长的字段一般会单独存储,行内记录逻辑地址),连续多行构成一个页,页的尾部通常会存储索引来解决...
一位老IT的2023年的技术总结 |社区征文
## 笔者介绍笔者介绍,近几年的工作内容都与数据库和大数据相关,公司的市场定位 为客户提供数据智能一体化的解决方案,笔者的工作主要围绕公司的旗舰产品做一些售前、售中、售后的事情 ,主要是DBA和技术支持。工作... 智能系统建设是应用优化的永无止境的追求。主要表现是提供更加友好验证手段,以及更加便利的识别方法提供相应的服务,一般智能系统会搭承其它技术手段完成客户端需求的闭环。2023年里,我接触的项目主要是**信息系...
未来向量数据库的崛起与多元化场景创新 主赛道 | 社区征文
# 向量数据库的崛起与多元化场景创新## 前言:> 在如今的数字时代,数据被称作金子,对企业、科学家和管理者都有很大价值。但是,随着数据规模的不断增长,高效的管理、存储和检索数据变得越来越复杂。这引进了当今... 数据库服务并深度结合了亚马逊云科技的多元化产品线来实现高效安全的生产开发,不断地适应新的业务场景和需求。比如:· **图像和音频、视频分析**:向量数据库可以用于图像和视频的存储、索引和检索,提供快速的相似图...
Apache Iceberg 中引入索引提升查询性能
Apache Iceberg 是一种开源数据 Lakehouse 表格式,提供强大的功能和开放的生态系统,如:Time travel,ACID 事务,partition evolution,schema evolution 等功能。本文将讨论火山引擎EMR团队针对 Iceberg 组件的优化思路,通过引入索引来提高查询性能。## 1. 采用 Iceberg 构建数据湖仓火山引擎 E-MapReduce(简称 EMR)是火山引擎数智平台(VeDI)旗下的云原生开源大数据平台产品, 提供了企业级的 Hadoop、Spark、Flink、Hive、Pre...
SQL 语法参考
创建数据库SQL CREATE DATABASE IF NOT EXISTS sqlDemo_DB; 创建外表通过创建 ES 外表,将分布式查询和全文检索相结合,实现查询分析实例中的索引数据。 SQL CREATE EXTERNAL TABLE `es_table` ( `k1` bigint(20)... 语法说明: hint_statement:在 selectlist 前面使用 hint 表示可以通过 hint 去影响优化器的行为以期得到想要的执行计划。 ALL DISTINCT :对结果集进行筛选,all为全部,distinct/distinctrow将筛选出重复列,默认为a...
使用数据库访问工具访问企业级 SQL 分析节点
企业级 SQL 分析节点启用后,您可以通过一些数据库工具连接 SQL 分析节点,查看节点中的库表信息、查询分析实例中的索引数据。 注意事项目前 ES 6.7.1 版本实例暂不支持企业级 SQL 分析节点。 准备工作通过数据库工具连接 SQL 分析节点时,需要提前完成以下准备工作: 在本地安装需要的数据库工具。本文选择用 DBeaver、Navicat 这两款工具介绍如何连接并查询 SQL 分析节点数据。 如果需要使用公网连接 SQL 分析节点,需要提前开启公网...
一文读懂火山引擎云数据库产品及选型
> **火山引擎存储&数据库产品解决方案团队**,由资深的存储&数据库解决方案架构师组成。团队致力于帮助企业与组织更好的使用火山引擎云存储与云数据库产品,针对实际业务场景设计最优的解决方案,用专业技术助力组织和企业实现业务成功。## 为什么要做数据库选型### 数据库选型的重要性与难点发展数字经济是当下各行各业的重要方向。支撑数字经济的底座是软件,特别是基础软件,可以说基础软件是整个数字经济的坚实底座。在基础软...
