随着大数据处理需求的不断增加,更低成本的存储和更统一的分析视角变得愈发重要。数据仓库作为企业核心决策支持系统,如何接入外部数据存储已经是一个技术选型必须考虑的问题。也出于同样的考虑,ByConity 0.2.0 中发布了一系列对接外部存储的能力,初步实现对 Hive 外表及数据湖格式的接入。# 支持 Hive 外表随着企业数据决策的要求越来越高,Hive 数据仓库已成为了许多组织的首选工具之一。通过在查询场景中结合 Hive, ByConity...
本文作者:惊帆 来自于数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有 JDB... 企业数据仓库架构必然不等于一个组件,大部分企业在数仓架构实施的都是都是基于现有的部分方案,进行基于自己业务合适的方向进行部分开发与定制,从而达到一个半自研的稳态,既能跟上业务变化的速度,又不过于依赖和受限...
## 前言我们不管是基于 Hadoop 的数据仓库(如 Hive ),还是基于传统 MPP 架构的数据仓库(如Teradata ),抑或是基于传统 Oracle 、MySQL 、MS SQL Server 关系型数据库的数据仓库,其实都面临如下问题:- 怎么组织数... > **有时候简单的方案是最美的、最有力的,也是最有效的**基于星形架构的维度建模就是这种情况 。星形架构牺牲了部分存储的冗余,但是带来了使用上的极度便捷,也使下游用户的使用和学习成本变得非常低。即使是没...
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就是一个 SQL 解析引擎,因为它即不负责存储数据,也不负责计算数据,只负责解析 SQL,记录元数据。Hive直接访问存储在 HDFS 中或者 HBase ...
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就是一个 SQL 解析引擎,因为它即不负责存储数据,也不负责计算数据,只负责解析 SQL,记录元数据。Hive直接访问存储在 HDFS 中或者 HBase ...
本文介绍如何通过 Hive 在 E-MapReduce(EMR) 集群上创建库和表等操作。 1 前提条件已创建集群,详情请参见 创建集群。 2 进入 Hive 命令行登录 EMR 集群节点: 方案一:使用 SSH 方式登录到集群主节点,详情请参见使用... hive/conf/hive-log4j2.properties Async: trueHive Session ID = 258437d2-f601-42c9-bab3-731b975b0642 3 库操作本文示例中的数据库以 testdb 为例介绍。 3.1 创建库shell CREATE DATABASE IF NOT EXISTS testdb...
**惊帆** 来自 字节跳动数据平台EMR团队EMR 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive已经不单单是一个技... 企业数据仓库架构必然不等于一个组件,大部分企业在数仓架构实施的都是都是基于现有的部分方案,进行基于自己业务合适的方向进行部分开发与定制,从而达到一个半自研的稳态,既能跟上业务变化的速度,又不过于依赖和受限...
**惊帆** 来自 字节跳动数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有... 企业数据仓库架构必然不等于一个组件,大部分企业在数仓架构实施的都是都是基于现有的部分方案,进行基于自己业务合适的方向进行部分开发与定制,从而达到一个半自研的稳态,既能跟上业务变化的速度,又不过于依赖和受限...
模板意在定义监控校验规则,方便后期复用。 1 前提条件已在概览页面购买大数据分析、湖仓一体、DataOps 敏捷研发或分布式数据自治解决方案。 已购买 EMR 或 LAS 引擎服务。 2 创建规则登录 DataLeap 控制台。 选择数据质量 > 数据监控 > 离线数据监控 > 监控对象,直接进入监控对象的模板规则页面。 在页面右上角的项目下拉列表中,选择要管理的项目。 在引擎下拉列表中,选择要配置的引擎和对应的实例。 创建监控对象。单击 +Hive监...
查看视角:支持从团队或个人视角查看对应视角下相关的 Hive、LAS 表资源。团队、个人:单击下拉框,选择对应的数据团队或个人信息,支持多选。 团队详情:单击团队详情,展现已选择的数据团队详情,并可对该数据团队进行编辑、删除等操作。说明 团队详情中最多只展示 5 个数据团队详情,您可根据实际情况进行筛选查看。 当前成员需要是数据团队负责人,方可对数据团队进行修改与配置。 添加治理方案:单击添加治理方案,您可前往规划诊断...
本文将为您介绍如何通过调整内存、CPU 和 Task 个数等方式,实现 Hive 作业调优。 1 调优方案总览调优方向 调优方案 代码优化 代码优化 参数调优 内存参数 CPU 参数 开启向量化 Task 数量优化 合并小文件 2 代码优化2.1 数据清洗数据过滤之后再 JOIN。 重复使用数据时,避免重复计算,构建中间表,重复使用中间表。 读取表时分区过滤,避免全表扫描。 2.2 多 distinct 优化优化前代码 sql SELECT g, COUNT(DISTINCT C...
数据自治解决方案。 已购买 EMR 或 LAS 引擎服务。 2 创建规则登录 DataLeap 控制台。 选择数据质量 > 数据监控 > 离线数据监控 > 监控对象,进入监控对象页面。 在页面右上角的项目下拉列表中,选择要管理的项目。 单击自定义规则页签,进入自定义规则管理页面。 单击 +新建规则按钮,进入新建自定义规则页面。 依次完成以下设置:设置规则参数,单击下一步按钮。 设置监控逻辑,单击下一步按钮。输入符合 Hive 语法规范的 SQL 语句。...
1. 数据集 1.1 常见报错信息修改了 hive 表字段类型修改,同步不成功是什么问题?现象举例1:hive 数据在原数据库中不为空,而同步到DataWind这边,不管是数据集预览,还是可视化查询,结果都是空值。数据库有值:数据集同... 解决方案: 前端页面会弹出二维码,用户通过扫码记录token即可。 1.2 数据口径常见问题数据准确性和口径问题相似问题: XXX的数不对不同表的相同维度数据不一致图表/看板表格中的链接无法打开如何提数据需求指标不对...