You need to enable JavaScript to run this app.
最新活动
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

建设数据仓库的过程

从数据接入、查询分析到可视化展现,提供一站式洞察平台,让数据发挥价值

社区干货

浅谈数仓建设数据治理 | 社区征文

也就是数据驱动和赋能。### 3. 如何搭建一个好的数仓?1. **稳定**:数据产出稳定且有保障。2. **可信**:数据干净、数据质量高。3. **丰富**:数据涵盖的业务足够广泛。4. **透明**:数据构成体系足够透明。## 二、数仓设计 数仓设计的3个维度:- **功能架构**:结构层次清晰。- **数据架构**:数据质量有保障。- **技术架构**:易扩展、易用。### 1. 数仓架构按照数据流入流出的过程,数据仓库架构可分为:**源数...

DataLeap数据仓库流程最佳实践

# 前言本实验以DataLeap on LAS为例,实际操作火山引擎数据产品,完成数据仓库的构建。# 关于实验* 预计部署时间:50分钟* 级别:初级* 相关产品:大数据开发套件、湖仓一体分析服务LAS* 受众: 通用## 环境说... 经典数据仓库按照大类分为基础数据层、应用数据层。![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_98ec7b40ada6825a898fd7157d6c3044.png)本样例中,我们的数据仓库建设思路是:...

20000字详解大厂实时数仓建设 | 社区征文

实体名称可以根据数据仓库转换整合后做一定的业务抽象的名称,该名称应该准确表述实体所代表的业务含义- 样例:dim_trip_dri_base---#### 4. DWM 汇总层建设建设顺风车实时数仓的汇总层的时候,跟顺风车离线数仓有很多一样的地方,但其具体技术实现会存在很大不同。第一:对于一些共性指标的加工,比如 pv,uv,订单业务过程指标等,我们会在汇总层进行统一的运算,确保关于指标的口径是统一在一个固定的模型中完成。对于一些个...

干货 | 这样做,能快速构建企业级数据湖仓

主要介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。> > > > ![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddh... Codegen 和向量化都是从数据仓库,而不是 Hadoop 体系的产品中衍生出来。Codegen 是 Hyper 提出的技术,而向量化则是 MonetDB 提出的,所以计算引擎的精细化也是沿着数仓开辟的路子在走。Spark 等 Hadoop 体系均走...

特惠活动

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

建设数据仓库的过程-优选内容

DataLeap数据仓库流程最佳实践
前言 本实验以DataLeap on LAS为例,实际操作火山引擎数据产品,完成数据仓库的构建。 关于实验 预计部署时间:50分钟 级别:初级 相关产品:大数据开发套件、湖仓一体分析服务LAS 受众: 通用 环境说明已购买DataLe... 经典数据仓库按照大类分为基础数据层、应用数据层。 本样例中,我们的数据仓库建设思路是: ODS(从生产系统采集原始数据,并将原始数据集成冗余宽表) DWD(对ODS冗余表数据进行轻度过滤处理) DWM (基于DWD表与业务...
浅谈数仓建设数据治理 | 社区征文
也就是数据驱动和赋能。### 3. 如何搭建一个好的数仓?1. **稳定**:数据产出稳定且有保障。2. **可信**:数据干净、数据质量高。3. **丰富**:数据涵盖的业务足够广泛。4. **透明**:数据构成体系足够透明。## 二、数仓设计 数仓设计的3个维度:- **功能架构**:结构层次清晰。- **数据架构**:数据质量有保障。- **技术架构**:易扩展、易用。### 1. 数仓架构按照数据流入流出的过程,数据仓库架构可分为:**源数...
DataLeap数据仓库流程最佳实践
# 前言本实验以DataLeap on LAS为例,实际操作火山引擎数据产品,完成数据仓库的构建。# 关于实验* 预计部署时间:50分钟* 级别:初级* 相关产品:大数据开发套件、湖仓一体分析服务LAS* 受众: 通用## 环境说... 经典数据仓库按照大类分为基础数据层、应用数据层。![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_98ec7b40ada6825a898fd7157d6c3044.png)本样例中,我们的数据仓库建设思路是:...
20000字详解大厂实时数仓建设 | 社区征文
实体名称可以根据数据仓库转换整合后做一定的业务抽象的名称,该名称应该准确表述实体所代表的业务含义- 样例:dim_trip_dri_base---#### 4. DWM 汇总层建设建设顺风车实时数仓的汇总层的时候,跟顺风车离线数仓有很多一样的地方,但其具体技术实现会存在很大不同。第一:对于一些共性指标的加工,比如 pv,uv,订单业务过程指标等,我们会在汇总层进行统一的运算,确保关于指标的口径是统一在一个固定的模型中完成。对于一些个...

建设数据仓库的过程-相关内容

观点|SparkSQL在企业级数仓建设的优势

分享我们在企业级数仓建设上的技术选型观点** ,第二个部分则重点介绍了字节跳动数据平台在通过SparkSQL进行企业级数仓建设的实践。> > > > ![picture.image](https://p3-volc-community-sign.byteimg.c... **惊帆** 来自 字节跳动数据平台EMR团队EMR 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive已经不单单是一个技...

SparkSQL 在企业级数仓建设的优势

分享我们在企业级数仓建设上的技术选型观点**,第二个部分则重点介绍了字节跳动数据平台在通过 SparkSQL 进行企业级数仓建设的实践。![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tld... **惊帆** 来自 字节跳动数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有...

浅谈大数据建模的主要技术:维度建模 | 社区征文

怎么组织数据仓库中的数据?- 怎么组织才能使得数据的使用最为方便和便捷?- 怎么组织才能使得数据仓库具有良好的可扩展性和可维护性?> **Ralph Kimball 维度建模理论很好地回答和解决了上述问题。**维度建模理论和技术也是目前在数据仓库领域中使用最为广泛的、也最得到认可和接纳的一项技术。今天我们就来深入探讨 Ralph Kimball 维度建模的各项技术,涵盖其基本理论、一般过程、维度表设计和事实表设计等各个方面,也为我...

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

基于火山引擎 EMR 构建企业级数据湖仓

主要介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。作者:辛现银,火山引擎开源大数据平台 E-MapReduce 技术架构师 数据湖仓开源趋势... 都是从数据仓库而不是 Hadoop 体系的产品中长出来的:Codegen 是 Hyper 提出的技术,而向量化则是 MonetDB 提出的,所以计算引擎的精细化也是沿着数仓开辟的路子在走。Spark 等 Hadoop 体系均走了 Codegen 的道路,因为...

基于火山引擎 EMR 构建企业级数据湖仓

主要为大家介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。## 数据湖仓开源趋势### 趋势一:数据架构向 LakeHouse 方向发展什么是 LakeHouse? LakeHouse ... 都是从数据仓库而不是 Hadoop 体系的产品中长出来的:Codegen 是 Hyper 提出的技术,而向量化则是 MonetDB 提出的,所以计算引擎的精细化也是沿着数仓开辟的路子在走。Spark 等 Hadoop 体系均走了 Codegen 的道路,因为...

基于 ByteHouse 构建实时数仓实践

数据的价值在于数据的在线化。实时计算起源于对数据加工时效性的严苛需求:数据的业务价值随着时间的流逝会迅速降低,因此在数据产生后必须尽快对其进行计算和处理,从而最大效率实现数据价值转化,对实时数仓的建设需... 总结了基于 ByteHouse 建设实时数仓的经验。# 选择 ByteHouse 构建实时数仓的原因ByteHouse 是火山引擎在 ClickHouse 的基础上自研并大规模实践的一款高性能、高可用企业级分析性数据库,支持用户交互式分析 PB...

如何快速构建企业级数据湖仓?

主要介绍了数据湖仓开源趋势、火山引擎 EMR 的架构及特点,以及如何基于火山引擎 EMR 构建企业级数据湖仓。# **数据湖** **仓开源趋势**## **趋势一:数据架构向 LakeHouse 方向发展**LakeHouse是什么?简言之,... Codegen 和向量化都是从数据仓库,而不是 Hadoop 体系的产品中衍生出来。Codegen 是 Hyper 提出的技术,而向量化则是 MonetDB 提出的,所以计算引擎的精细化也是沿着数仓开辟的路子在走。Spark 等 Hadoop 体系均走了...

从思考到实践,企业级大数据平台的构建之路

企业数据建设正处于更大规模和更多样的变化趋势中。传统自建数据仓库,在企业数据体量持续增长、业务时效性持续提升的情况下,已经很难应对更复杂、更多样化的场景需求,平台扩展和数据融合面临重重障碍。8 月18 日,火山引擎开发者社区技术大讲堂第四期将为大家从 **开源大数据生态**和 **源于字节跳动内部的智能实时湖仓**两个方面详细介绍 **如何构建企业级数据湖仓**,剖析火山引擎大数据平台的架构与实践。...

字节跳动开源其云原生数据仓库 ByConity

‍ ‍项目简介-----ByConity 是字节跳动开源的云原生数据仓库,它采用计算-存储分离的架构,支持多个关键功能特性,如计算存储分离、弹性扩缩容、租户资源隔离和数据读写的强一致性等。通过利用主流的... 数据规模变得越来越巨大。由于 ClickHouse 是 Shared-Nothing 的架构,每个节点是独立的,不会共享存储资源等,因而计算资源和存储资源是紧耦合的,这使得 ClickHouse 在使用过程中会遇到以下情况:* 首先,这导致扩缩...

特惠活动

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

产品体验

体验中心

云服务器特惠

云服务器
云服务器ECS新人特惠
立即抢购

白皮书

数据智能知识图谱
火山引擎数智化平台基于字节跳动数据平台,历时9年,基于多元、丰富场景下的数智实战经验打造而成
立即获取

最新活动

爆款1核2G共享型服务器

首年60元,每月仅需5元,限量秒杀
立即抢购

火山引擎增长体验专区

丰富能力激励企业快速增长
查看详情

数据智能VeDI

易用的高性能大数据产品家族
了解详情

一键开启云上增长新空间

立即咨询