You need to enable JavaScript to run this app.
导航
EMR-2.0.1版本说明
最近更新时间:2025.06.09 15:02:34首次发布时间:2023.01.13 11:20:42
我的收藏
有用
有用
无用
无用

环境信息

系统环境

环境

版本

OS

veLinux(Debian 10兼容版)

Python2

2.7.16

Python3

3.7.3

Java

ByteOpenJDK 1.8.0_302

应用程序版本

Hadoop 集群

Flume

1.9.0

OpenLDAP

2.4.58

Ranger

1.2.0

ZooKeeper

3.7.0

Flink

1.15.1

HDFS

2.10.2

MapReduce2

2.10.2

YARN

2.10.2

Airflow

2.4.2

Hive

2.3.9

Hue

4.9.0

Knox

1.5.0

Presto

0.267

Trino

365

Spark

2.4.8

Sqoop

1.4.7

Tez

0.10.1

Iceberg

0.12.0

Impala

3.4.1

Kudu

1.14.0

HBase

1.7.2

Hudi

0.11.1

发布说明

以下发布说明包括有关火山引擎 E-MapReduce(EMR) V2.0.1 的信息。EMR V2.0.1为火山引擎 EMR V2.0.x 的第二个版本,更改与 2.0.0 有关。Hadoop2.x 软件包目前已去除白名单处于全量发布。
发布日期: 2022 年 12 月 15 日

新增功能

  • 【组件】新增 Hudi,版本为 0.11.1 。
  • 【组件】新增 HBase 组件, 版本为 1.7.2 。

更改、增强和解决的问题

  • 【通用】EMR 2.0.1 作为含有 Hadoop 2.x 的软件包的第二个版本,目前已经取消白名单进行全量发布。
  • 【组件】AirFlow 升级至 2.4.2,修复部分安全漏洞。
  • 【组件】Hive 通过 TPC-DS 测试,解决多个相关的问题。

已知问题

  • 【通用】云监控中尚未适配 2.x 集群。

组件版本

下面列出了 EMR 和此版本一起安装的组件。

组件

版本

描述

zookeeper_server

3.7.0

用于维护配置信息、命名、提供分布式同步的集中式服务。

zookeeper_client

3.7.0

ZooKeeper 命令行客户端。

hive_metastore

2.3.9

Hive 元数据存储服务。

hive_server

2.3.9

用于将 Hive 查询作为 Web 请求接受的服务。

hive_client

2.3.9

Hive 命令行客户端。

hdfs_namenode

2.10.2

用于跟踪 HDFS 文件名和数据块的服务。

hdfs_datanode

2.10.2

存储 HDFS 数据块的节点服务。

hdfs_secondary_namenode

2.10.2

对 NameNode 数据进行周期性合并的服务。

hdfs_client

2.10.2

HDFS 客户端命令行。

hdfs_journalnode

2.10.2

用于管理 HA 模式下 HDFS 日志的服务。

hdfs_zkfc

2.10.2

用户维护 HA 模式下 HDFS NameNode 从动态的服务。

hue_server

4.9.0

用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。

knox_gateway

1.5.0

用于与 Hadoop 生态的 RESTAPI 和 UI 交互的应用程序网关。

openldap

2.4.58

后台认证以及用户数据权限管控服务。

ranger_admin

1.2.0

Ranger 安全管理的中心接口服务。

ranger_usersync

1.2.0

拉取用户和组的 Ranger 服务。

spark_jobhistoryserver

2.4.8

用于查看完整的 Spark 应用程序的生命周期的已记录事件的 Web UI。

ksana

1.0

为字节 EMR 团队自研组件,定位于 SparkSQL 数据仓库构建引擎,取代了 Spark Thrift Server,兼容 Hive 的使用方式。

spark_client

2.4.8

Spark 命令行客户端。

livy_server

0.6.0

提供 REST 接口来与 Spark 交互的服务。

sqoop

1.4.7

提供数据库与 HDFS 导入导出功能。

iceberg

0.12.0

Apache Iceberg 是一种适用于超大型分析数据集的开放表格式。

yarn_resourcemanager

2.10.2

分配和管理集群资源与分布式应用程序的 YARN 服务。

yarn_nodemanager

2.10.2

管理单个节点上的容器的 YARN 服务。

yarn_client

2.10.2

YARN 命令行客户端。

mapreduce2_historyserver

2.10.2

保存作业执行信息的 MapReduce 服务。

mapreduce2_client

2.10.2

MapReduce 命令行客户端。

tez_client

0.10.1

Tez 命令行客户端。

flink_client

1.11.3

Flink 命令行客户端。

airflow_webserver

2.4.2

Airflow 提供的 web 服务。

airflow_scheduler

2.4.2

Airflow 的调度器。

presto_cli

0.267

Presto 命令行客户端。

presto_coordinator

0.267

Presto 中负责 query 解析,任务调度,结果汇总的,集群监控的节点。

presto_worker

0.267

Presto 中负责所有 Query 相关数据的计算工作。

trino_cli

365

Trino 命令行客户端。

trino_coordinator

365

Trino 中负责 query 解析,任务调度,结果汇总的,集群监控的节点。

trino_worker

365

Trino 中负责所有 Query 相关数据的计算工作。

kerby_server

2.0.1

Kerberos 认证服务。

flume_agent

1.9.0

Flume 中的数据采集工具。

flume_client

1.9.0

Flume 命令行客户端。

catalogd

3.4.1

Impala 元数据服务的应用程序。

statestored

3.4.1

Impala 集群节点管理应用程序。

impalad

3.4.1

Impala 计算节点应用程序。

kudu_tserver

1.14.0

Kudu 存储节点应用程序。

kudu_master

1.14.0

Kudu 元数据和集群节点管理应用程序。

hbase_master

1.7.2

适用于负责协调区域和执行管理命令的 HBase 集群的服务。

hbase_regionserver

1.7.2

用于服务于一个或多个 HBase 区域的服务。

hbase_client

1.7.2

HBase 命令行客户端。