You need to enable JavaScript to run this app.
导航
EMR-3.8.0 版本说明
最近更新时间:2024.06.13 16:13:24首次发布时间:2024.01.29 17:59:58

系统环境

版本

环境

OS

veLinux(Debian 10兼容版)

Python2

2.7.16

Python3

3.10.13

Java

ByteOpenJDK 1.8.0_352

应用程序版本

Hadoop集群

Flink集群

Kafka集群

Pulsar集群

Presto集群

Trino集群

HBase集群

Doris集群

StarRocks集群

HDFS

3.3.4

3.3.4

3.3.4

3.3.4

3.3.4

YARN

3.3.4

3.3.4

3.3.4

MapReduce2

3.3.4

3.3.4

3.3.4

Hive

3.1.3

3.1.3

3.1.3

Spark

3.3.3

Tez

0.10.2

Knox

1.5.0

1.5.0

1.5.0

1.5.0

1.5.0

1.5.0

Openldap

2.5.13

2.5.13

2.5.13

2.5.13

2.5.13

2.5.13

Zookeeper

3.7.0

3.7.0

3.7.0

3.7.0

3.7.0

3.7.0

3.7.0

Ossa

1.0.0

1.0.0

1.0.0

1.0.0

Kafka

3.2.4

Pulsar

3.0.1

Doris

1.2.5和2.0.2

Starrocks

2.5.13和3.1.6

BookKeeper

4.16.2

HBase

2.3.7

2.3.7

Celeborn

0.3.1

Flink

1.16.1

1.16.1

Presto

0.280

0.280

Trino

432

432

DolphinScheduler

3.1.7

Iceberg

1.2.0

Delta Lake

2.3.0

Hudi

0.12.2

Airflow

2.4.2

2.4.2

2.4.2

Hue

4.11.0

4.11.0

4.11.0

Kyuubi

1.7.1

Sqoop

1.4.7

Impala

3.4.1

Kudu

1.14.0

Phoenix

5.1.3

5.1.3

Ranger

2.3.0

2.3.0

2.1.0

2.3.0

2.3.0

2.3.0

Flume

1.9.0

1.9.0

1.9.0

GTS

1.0.0

Proton

1.7.0

1.7.0

1.7.0

1.7.0

EMR-3.8.0发布说明

更改、增强和解决的问题

  • 【组件】Celeborn组件版本由0.3.0升级为0.3.1。
  • 【组件】StarRocks组件版本由3.1.4升级为3.1.6。
  • 【组件】Ranger组件版本由2.1.0升级为2.3.0。
  • 【组件】Impala组件支持LZO数据压缩格式。
  • 【组件】Flink 集成Bytehouse CE Connector,实现数据写入能力。
  • 【组件】开箱参数优化:
    • Kyuubi组件默认开启Spark动态资源调整参数。
    • Doris组件根据ECS机型动态设置内存。
  • 【组件】存算分离场景下,优化 Spark 关于job committer 的配置参数。
  • 【组件】存算分离场景下,Impala组件支持读写存储在对象存储TOS中的Hive表。
  • 【组件】存算分离场景下,对存储在对象存储TOS中的Hive的Parquet表/Sequence表/TextFile表,Sqoop支持全量和增量方式将数据到该表中。
  • 【组件】存算分离场景下,Proton的特性增强
    • 支持元数据自动同步功能;
    • ObjectInputStream连接复用优化;
    • 优化Cache模式下随机读性能,Cache miss场景下追平RawFs;
    • RawFs支持Fuse;
    • 解决若干bug;
  • 【组件】适配云上生态产品DataLeap,在DataLeap中终止Hive任务后,EMR Hive中会也同步将任务进行kill掉。

组件版本

下面列出了 EMR 和此版本一起安装的组件。

组件

版本

描述

zookeeper_server

3.7.0

用于维护配置信息、命名、提供分布式同步的集中式服务。

zookeeper_client

3.7.0

ZooKeeper命令行客户端。

hive_metastore

3.1.3

Hive元数据存储服务。

hive_server

3.1.3

用于将 Hive 查询作为 Web 请求接受的服务。

hive_client

3.1.3

Hive命令行客户端。

hdfs_namenode

3.3.4

用于跟踪HDFS文件名和数据块的服务。

hdfs_datanode

3.3.4

存储HDFS数据块的节点服务。

hdfs_secondary_namenode

3.3.4

对NameNode数据进行周期性合并的服务。

hdfs_client

3.3.4

HDFS客户端命令行。

hdfs_journalnode

3.3.4

用于管理 HA 模式下HDFS日志的服务。

hdfs_zkfc

3.3.4

用户维护HA模式下HDFS NameNode从动态的服务。

hue_server

4.11.0

用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。

knox_gateway

1.5.0

用于与Hadoop生态的RESTAPI和UI交互的应用程序网关。

openldap

2.5.13

后台认证以及用户数据权限管控服务。

ranger_admin

2.3.0

Ranger安全管理的中心接口服务。

ranger_usersync

2.3.0

拉取用户和组的Ranger服务。

spark_jobhistoryserver

3.3.3

用于查看完整的 Spark 应用程序的生命周期的已记录事件的 Web UI。

spark_client

3.3.3

Spark命令行客户端。

livy_server

0.8.0

提供REST接口来与Spark交互的服务。

sqoop

1.4.7

提供数据库与HDFS导入导出功能。

iceberg

1.2.0

Apache Iceberg 是一种适用于超大型分析数据集的开放表格式。

hudi

0.12.2

增量处理框架,以支持低延迟和高效率的数据管道。

yarn_resourcemanager

3.3.4

分配和管理集群资源与分布式应用程序的 YARN 服务。

yarn_nodemanager

3.3.4

管理单个节点上的容器的 YARN 服务。

yarn_client

3.3.4

YARN命令行客户端。

mapreduce2_historyserver

3.3.4

保存作业执行信息的MapReduce服务。

mapreduce2_client

3.3.4

MapReduce命令行客户端。

tez_client

0.10.2

Tez命令行客户端。

flink_client

1.16.1

Flink命令行客户端。

airflow_webserver

2.4.2

Airflow提供的web服务。

airflow_scheduler

2.4.2

Airflow的调度器。

presto_cli

0.280

Presto命令行客户端。

presto_coordinator

0.280

Presto中负责query解析,任务调度,结果汇总的,集群监控的节点。

presto_worker

0.280

Presto中负责所有Query相关数据的计算工作。

trino_cli

432

Trino命令行客户端。

trino_coordinator

432

Trino中负责query解析,任务调度,结果汇总的,集群监控的节点。

trino_worker

432

Trino中负责所有Query相关数据的计算工作。

flume_agent

1.9.0

Flume中的数据采集工具。

flume_client

1.9.0

Flume命令行客户端。

kafka_broker

3.2.4

Kafka中的消息处理节点。

hbase_master

2.3.7

适用于负责协调区域和执行管理命令的 HBase 集群的服务。

hbase_regionserver

2.3.7

用于服务于一个或多个 HBase 区域的服务。

hbase_client

2.3.7

HBase 命令行客户端。

opensearch

1.2.3

OpenSearch服务。

opensearch_dashboard

1.2.3

OpenSearch的可视化仪表盘。

tensorflow

2.7.0

适用于高性能数值计算的 TensorFlow 开源软件库。

tensorflow_on_yarn

1.0.0

TensorFlow YARN应用程序和库。

doris_fe

1.2.5 和2.0.2

Doris的FE服务。

doris_be

1.2.5和2.0.2

Doris的BE服务。

bookKeeper

4.16.2

负责Pulsar消息数据的存储。

pulsar_broker

3.0.1

提供读写服务以及 Pulsar 的计算逻辑。

pulsar_client

3.0.1

Pulsar 命令行客户端。

Pulsar Manager

0.2.0

Pulsar 可视化工具。

clickhouse

22.3.10.22

ClickHouse应用程序。

catalogd

3.4.1

Impala元数据服务的应用程序。

statestored

3.4.1

Impala集群节点管理应用程序。

impalad

3.4.1

Impala计算节点应用程序。

kudu_tserver

1.14.0

Kudu存储节点应用程序。

kudu_master

1.14.0

Kudu元数据和集群节点管理应用程序。

starrocks_fe

2.5.13和3.1.6

StarRocks的FE服务。

starrocks_be

2.5.13和3.1.6

StarRocks的BE服务。

Ossa

1.0.0

为字节EMR团队自研组件,用于支持作业管理等功能。

Proton

1.7.0

火山引擎 E-MapReduce(EMR)团队推出的,针对存算分离场景提供的加速引擎,其深度优化的 TOS 访问能力和 JobCommitter 功能,可极大地提升作业的执行效率。

Kyuubi

1.7.1

是一个分布式和多租户网关,用于在数据仓库和湖仓上提供无服务器 SQL。