## 前言我们不管是基于 Hadoop 的数据仓库(如 Hive ),还是基于传统 MPP 架构的数据仓库(如Teradata ),抑或是基于传统 Oracle 、MySQL 、MS SQL Server 关系型数据库的数据仓库,其实都面临如下问题:- 怎么组织数据仓库中的数据?- 怎么组织才能使得数据的使用最为方便和便捷?- 怎么组织才能使得数据仓库具有良好的可扩展性和可维护性?> **Ralph Kimball 维度建模理论很好地回答和解决了上述问题。**维度建模理论和技术也是...
随着大数据处理需求的不断增加,更低成本的存储和更统一的分析视角变得愈发重要。数据仓库作为企业核心决策支持系统,如何接入外部数据存储已经是一个技术选型必须考虑的问题。也出于同样的考虑,ByConity 0.2.0 中发布了一系列对接外部存储的能力,初步实现对 Hive 外表及数据湖格式的接入。# 支持 Hive 外表随着企业数据决策的要求越来越高,Hive 数据仓库已成为了许多组织的首选工具之一。通过在查询场景中结合 Hive, ByConity...
第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就... 提升我们对Hive的掌控力,同时有能力去定制一些需要的功能。### 二、Hive 底层执行架构我们先来看下 Hive 的底层执行架构图, Hive 的主要组件与 Hadoop 交互的过程:![Hive底层执行架构](https://cdn.jsdelivr...
本文作者:惊帆 来自于数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有 JDB... 检索三个方向阐述了海量数据下一种新的分布式数据加工处理技术,这三个方向被雅虎 Nutch 团队实现后贡献给 Apache,也就是目前大家看到的 HDFS,MapReduce 和 HBase,形成了早期 Hadoop 的三大利器。然而这三大利器更...
(仅支持 Hive 读):Hive reader 通过 JDBC 客户端连接 HiveServer2 服务进行数据读取。 1 支持的版本火山引擎 E-MapReduce(EMR)Hive 数据源。 连接串形式支持 Hive 3.1 版本。 2 使用前提子账号新建数据源时,需要有项目的管理员角色,方可以进行新建数据源操作。各角色对应权限说明,详见:管理成员 访问 EMR-Hive 数据源,需先在项目控制台 > 服务绑定 > 引擎绑定中,绑定相应 EMR-Hadoop 集群。详见创建项目。 Hive 数据源配置选择...
Hive 是一款基于 Hadoop 的数据仓库架构,可以通过 HiveQL(类 SQL 语言)对分布式存储中的大型数据集进行提取、转化和加载(ETL)操作,以及元数据管理。关于Hive的的更多的介绍,可以参考Apache Hive官网。 1 Hive 组件说明基本组件介绍如下: 名称 说明 Hive Client Hive Client 是 Hive 客户端,提供 Beeline、JDBC 应用所需的驱动包,通过该客户端可以向 HiveServer2 提交SQL作业。 Hive MetaStore Hive MetaStore 是 Hive 元数据管理...
1 概述说明火山引擎 E-MapReduce(EMR)自 EMR-3.1.1(对应 Hadoop 3.x 和 Hive 3.x)、EMR-2.2.0(对应 Hadoop 2.x 和 Hive 2.x)开始支持 Proton SDK。本文描述了如何在火山 EMR 的 Hive,或在自建 Hadoop 集群的 Hive 中使用 Proton SDK 读写 TOS 数据。 2 火山 EMR2.1 认证配置火山引擎 EMR 认证配置详见:Hadoop 使用 Proton - 认证配置。 3 自建 Hadoop 集群3.1 配置 Hadoop 环境根据不同 Proton 版本,下载对应的 Proton 包,详见:H...
shell su hive执行以下命令,进入 Hive 命令行。 shell hive返回信息如下所示时,表示进入 Hive 命令行 Hive Session ID = aaa9c23d-4975-4c10-bb9a-1817c5fa36e6Logging initialized using configuration in file:/etc/emr/hive/conf/hive-log4j2.properties Async: trueHive Session ID = 258437d2-f601-42c9-bab3-731b975b0642 3 库操作本文示例中的数据库以 testdb 为例介绍。 3.1 创建库shell CREATE DATABASE IF NOT EXIS...
Hive 支持通过内表或外表的方式访问 Iceberg 数据。本文通过示例为您介绍如何使用 E-MapReduce(EMR)上的 Hive 访问 Iceberg 数据。 1 前提条件适合 EMR 1.2.0以后的版本(包括EMR 1.2.0) 已创建 EMR 集群,且安装有 Iceberg 组件。有两种方式可以安装 Iceberg 组件: 在创建 EMR 集群时,选择 Icerberg 作为可选组件,详见:创建集群。 对已安装 EMR 集群,参考 服务管理章节 添加 Iceberg 服务 对于插入数据操作,要求 Hive 的执行引...
访问 Hive 数据有三种方式分别是 HiveServer2、Hive Client、HDFS。对于 HDFS 的访问权限控制可以参考 HDFS 配置章节,下面介绍 Ranger 对 Hive 数据的访问控制配置。 1 使用前提已创建 E-MapReduce(EMR)包含 Range... 进入 Ranger admin -> Access Manager -> HADOOP SQL-> 点击 default_hive,进入权限编辑界面。 Add New Policy,赋予 ranger 用户访问 table: test001 的 select 权限,配置如下: 4 Policy 验证4.1 beeline 访...
引擎绑定用于 DataLeap 与 EMR 账号对接,以实现由 DataLeap 进行相应的账号权限管理。通过 Hadoop 集群绑定功能,DataLeap 可以接入 EMR Hive 集群安全访问模式,从而实现对该模式下的 EMR Hive 数据源的库表权限管理。 1 前提条件已创建相应的 EMR 集群。创建 EMR 集群的详细说明可参见创建集群。 Hadoop 类型集群已部署 Ranger 服务并开启 Hive Plugin 和 SparkSQL Plugin。部署 Ranger 服务并开启 Hive Plugin 和 SparkSQL Plu...
本文作者:惊帆 来自于数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有 JDB... 检索三个方向阐述了海量数据下一种新的分布式数据加工处理技术,这三个方向被雅虎 Nutch 团队实现后贡献给 Apache,也就是目前大家看到的 HDFS,MapReduce 和 HBase,形成了早期 Hadoop 的三大利器。然而这三大利器更...
库表管理提供对元数据的创建、编辑、鉴权归属的统一管理。本文为您介绍如何管理 EMR Hive 库。 1 约束限制用户仅可以查看和管理自己作为库负责人的数据库。 2 前提条件已创建采集器,并将 EMR Hive 集群的元数据采集... 集群访问模式的相关配置说明请参见绑定 Hadoop 集群。 快捷模式:使用超级账号实现EMR资源鉴权和使用。 安全模式:使用IAM账号绑定的EMR LDAP账号实现EMR资源鉴权和使用。 说明 仅可选择已创建对应采集器的集群,相关...