大数据使用的数据库
社区干货
浅谈大数据建模的主要技术:维度建模 | 社区征文
## 前言我们不管是基于 Hadoop 的数据仓库(如 Hive ),还是基于传统 MPP 架构的数据仓库(如Teradata ),抑或是基于传统 Oracle 、MySQL 、MS SQL Server 关系型数据库的数据仓库,其实都面临如下问题:- 怎么组织数据仓库中的数据?- 怎么组织才能使得数据的使用最为方便和便捷?- 怎么组织才能使得数据仓库具有良好的可扩展性和可维护性?> **Ralph Kimball 维度建模理论很好地回答和解决了上述问题。**维度建模理论和技术也是...
三分钟了解大数据技术发展史|社区征文
每个公司或者个人都有自己的大数据处理系统,并没有形成编程框架和理念,而这三篇论文也就是我们熟知的大数据三驾马车,分别是分布式文件系统 GFS、大数据分布式计算框架 MapReduce 和 NoSQL 数据库 BigTable,这三篇论... 谷歌通过把许多廉价的服务器通过分布式技术组成一个大的存储、计算集群给业界应对存储计算问题提供了新的发展思路。2006 年 hadoop 发布后,Yahoo 首先运用起来,随后越来越多大公司开始采用 hadoop 进行大数据存储...
工业大数据分析与应用——知识总结 | 社区征文
大数据产业链的4个环节 - 大数据生产与集聚 - 如交易数据、交互数据、传感数据。 - 大数据组织与管理 - 如开展分布式文件系统、分布式计算系统、数据库、数据仓储、MOLAP、HOLAP、数据转换工具、数据安全等。 - 大数据分析与发现 - 如数据挖掘、数据统计、基于大数据的业务分析与预测、基于大数据的决策、商业智能、人工智能、数据可视化等。 - 大数据应用服务 - 如数据运营、大数据交易、分析与预测服...
分布式数据库TiDB的设计和架构
xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。数据库技术发展演进**2008年以前**2008 年以前应用最为广泛的是单机关系型数据库(SQL),能很好的解决复杂的数据运算及表间处理,多... 传统行业数据量迅速提升,需要同时满足低成本、线性扩容及能够处理交易类事务的新型数据库,大数据的存储刚需不可避免。NewSQL的挑战在于,它是基于 Google Spanner/F1 论文,未开源它的代码及技术细节,是基础软件最前...
特惠活动
大数据使用的数据库-优选内容
大数据使用的数据库-相关内容
基于云数据库 PostgreSQL 版构建智能交互式问答系统
本文就如何利用云数据库 PostgreSQL 版和大语言模型技术(Large Language Model,简称 LLM),实现企业级智能交互式问答系统进行介绍。通过本文,您将学习了解到:交互式问答系统原理、PostgreSQL 向量化存储和检索技术,以及大语言模型交互技术等。 背景在大数据时代,企业纷纷建立自己的知识库,并提供检索的方式实现知识的查询。然而,随着知识库内容的增加,普通信息检索的方式已经出现检索时费时费力的问题,难以获得有效结果。随着 Cha...
未来向量数据库的崛起与多元化场景创新 主赛道 | 社区征文
向量数据库越来越成为开发者关注的重点。## 一、概述:随着人工智能时代的来临,我们要更有效的解决图象、语音和视频等各种非结构化数据。这种信息往往有复杂的关系和模式,不能用传统的...
我的大数据学习总结 |社区征文
# 学习的体系在开始学习大数据时,我参考过许多学习路线的建议,但觉得直接照搬别人的学习顺序未必适合自己。最后结合工作需要和个人经历,我制定了一套适合自己的学习路线:开始学习Linux命令和系统基本概念。然后分别学习Java、Python以及Scala这几种在大数据开发中常用的编程语言。然后着重学习Hadoop核心技术如HDFS和MapReduce;接触数据库Hive后,学习数据流技术Kafka和分布式协调服务Zookeeper。深入研究Yarn和求执行引擎Spark...
演讲预告|云原生大数据系列实践分享
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/f82e5c71b77649ce8ed2a03b99941605~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1716049259&x-signature=TMxYB2NlQvNXfAKuHr8uywKK2XI%3D) 随着行业的快速发展和业务的高速迭代,数据量也呈爆炸式增长,传统的大数据架构在资源利用、高效运维、可观测性等方面存在诸多不足,已经越来越无法适应当下的发展需求...
2023 年大数据个人技术能力提升心得体会|社区征文
其实学大数据框架,最终还是要用到实际项目业务中的,我们梳理下实际大数据项目开发的整个流程,把这些流程中涉及到的技术,框架学会即可。**首先第一步是获取数据**,也叫数据采集,只有把数据放到大数据平台,我们才能进行后面的操作,那么都获取哪些数据呢,无非就下面这几种:- 第一:业务库中的数据,比如存储用户信息的,订单信息的数据。这些数据一般都是存在关系型数据库如MySql中。- 第二:日志数据,日志数据包括,埋点的数据和...
大数据技术探索:学习、应用与未来趋势 | 社区征文
大数据可视化是一种利用图表、图形和别的视觉元素来显示大型数据集的技术。可以帮助大家找到数据中的方法、趋势和关联,随后适用决策、难题改进和洞悉发觉。# 一大数据可视化操作该怎样实...
一文读懂火山引擎云数据库产品及选型
并且可以容忍数据部分丢失的场景,例如作为关系型数据库的外部缓存,用于提升系统整体的读性能,减轻关系型数据库的读压力。文档型 NoSQL 数据库使用的是一种半结构化的数据模型(json 或 xml 格式),与关系型数据库相比,文档型 NoSQL 是没有 Schema 的,由于没有 Schema 的特性,可以随意地存储与读取数据,因此文档型 NoSQL 数据库解决了关系型数据库表结构扩展不方便的问题。宽列型 NoSQL 数据库,主要用在大数据、OLAP 场景。其特...
【QCon门票福利】LLM 在大数据研发治理套件 DataLeap 中的应用实践
获得12月28-29日的 QCon 全球软件开发大会 **两日通票一张(PS:餐饮、差旅需自理)** 活动内容 **演讲题目:LLM 在大数据研发治理套件 DataLeap 中的应用实践**LLM 的发展,引发新一代的内容理解、生成技术热潮,也使得门槛相对较高的数据研发治理领域,有了更加平民化、提供自然语言接口的可能。DataLeap 是火山引擎数智平台(VeDI)推出的大数据研发治理套件,核心是帮助企业快速完成...
分布式数据库TiDB的设计和架构
xiaoyu向大家介绍了数据库发展史、TiDB 设计、架构及生态及TiDB在得物的应用。# 数据库技术发展演进**2008年以前**2008 年以前应用最为广泛的是单机关系型数据库(SQL),能很好的解决复杂的数据运算及表间处理... 传统行业数据量迅速提升,需要同时满足低成本、线性扩容及能够处理交易类事务的新型数据库,大数据的存储刚需不可避免。NewSQL的挑战在于,它是基于 Google Spanner/F1 论文,未开源它的代码及技术细节,是基础软件最前...
