HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。**当前在字节跳动,** **HDFS** **承载的主要业务如下:**- Hive,HBase,日志服务,Kafka 数据存储 - Yarn,Flink 的计算框架平台数据 - Spark,MapReduce 的计算相关数据存储![]()# **字节跳动特色的** **HDFS** **架构**在深入相关的技术细节之前,我们先看看字节跳动的 HDFS 架构。## **架构介绍** 字节跳动 HDFS 架构 ###...
# **背景**## **现状**HDFS 全称是 Hadoop Distributed File System,其本身是 Apache Hadoop 项目的一个模块,作为大数据存储的基石提供高吞吐的海量数据存储能力。自从 2006 年 4 月份发布以来,HDFS 目前依然有... 如何高效运维如此超大规模的集群![]()要回答这些问题需要 HDFS 从多个方向迭代优化,例如 DanceNN 的上线、运维平台的建设等,本文将会**聚焦在 HDFS 多机房架构的演进策略**上,它直接回答了上面提到的两个问...
**01****背景****现状**### HDFS 全称是 Hadoop Distributed File System,其本身是 Apache Hadoop 项目的一个模块,作为大数据存储的基石提供高吞吐的海量数据存储... 要回答这些问题需要 HDFS 从多个方向迭代优化,例如 DanceNN 的上线、运维平台的建设等,本文将会 **聚焦在 HDFS 多机房架构的演进策略**上,它直接回答了上面提到的两个问题,即:* 如何在容量上满足业务的发展需...
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就是一个 SQL 解析引擎,因为它即不负责存储数据,也不负责计算数据,只负责解析 SQL,记录元数据。Hive直接访问存储在 HDFS 中或者 HBase ...
# **背景**## **现状**HDFS 全称是 Hadoop Distributed File System,其本身是 Apache Hadoop 项目的一个模块,作为大数据存储的基石提供高吞吐的海量数据存储能力。自从 2006 年 4 月份发布以来,HDFS 目前依然有... 如何高效运维如此超大规模的集群![]()要回答这些问题需要 HDFS 从多个方向迭代优化,例如 DanceNN 的上线、运维平台的建设等,本文将会**聚焦在 HDFS 多机房架构的演进策略**上,它直接回答了上面提到的两个问...
**01****背景****现状**### HDFS 全称是 Hadoop Distributed File System,其本身是 Apache Hadoop 项目的一个模块,作为大数据存储的基石提供高吞吐的海量数据存储... 要回答这些问题需要 HDFS 从多个方向迭代优化,例如 DanceNN 的上线、运维平台的建设等,本文将会 **聚焦在 HDFS 多机房架构的演进策略**上,它直接回答了上面提到的两个问题,即:* 如何在容量上满足业务的发展需...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 HDFS 2.10.2 2.10.2 YARN 2.10.2 2.10.2 MapReduce2 2.10... hive_metastore 2.3.9 Hive元数据存储服务。 hive_server 2.3.9 用于将 Hive 查询作为 Web 请求接受的服务。 hive_client 2.3.9 Hive命令行客户端。 hdfs_namenode 2.10.2 用于跟踪HDFS文件名和数据块的服务。 hd...
HBase ✅ ✅ ✅ 大数据存储 HDFS ✅ ✅ 大数据存储 Hive(on HDFS) ✅ ✅ ✅ 大数据存储 Hive(on TOS) ✅ ✅ ✅ ✅ 大数据存储 StarRocks ✅ ✅ ✅ ✅ 大数据存储 Doris ... 结构化 RestApi ✅ 半结构化 TOS ✅ ✅ ✅ 半结构化 OSS ✅ 半结构化 FTP/SFTP ✅ 半结构化 S3 ✔️ 半结构化 LarkSheet ✅ NoSQL MongoDB ✅ ✅ ✅ ✔️ ...
2023 年 7 月 13 日 v 1.7.1 提供 Hadoop HDFS/Hive 迁移工具,Hive 内部表类型,无缝迁移。 2023 年 5 月 16 日 v 1.7.0 支持数据冷热分层(廉价冷存储)、支持数据脱敏、支持查询血缘。 2023 年 2 月 23 日 v 1.6.0... 2022 年 8 月 30 日 v 1.4.0 支持非结构化数据存储及计算,支持弹性独占队列计费,支持作业监控及队列资源监控。 2022 年 7 月 28 日 v 1.3.0 支持元数据发现,支持 Kafka 外部表,提供 Spark Jar 作业的提交工具,支持...
Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 Flume 1.9.0 - OpenLDAP 2.4.58 2.4.58 Ranger 1.2.0 - ZooKeeper 3.7.0 3.7.0 Flink 1.15.1 - HDFS 2.10.2 2.10.2... hive_metastore 2.3.9 Hive元数据存储服务。 hive_server 2.3.9 用于将 Hive 查询作为 Web 请求接受的服务。 hive_client 2.3.9 Hive命令行客户端。 hdfs_namenode 2.10.2 用于跟踪HDFS文件名和数据块的服务。 hd...
HDFS 下线且 Live 的节点数量 个 HDFS 下线且 Dead 的节点数量 个 DataNode Decommissioning 状态节点数 个 心跳延迟被标记为 stale 状态的 DataNode 数 个 Block 状态 HDFS块总数 个 BLOCK 容量 个 HDFS 等待被备份的块数量 个 HDFS 小于规定副本数的块数量 个 HDFS 坏块数量 个 HDFS 安排要备份的块数量 个 HDFS 等待删除的块数 个 HDFS 超过副本数的块数 个 HDFS 丢块数量 个 HDFS 启动时被推迟处理的块数 个 存储状态 存储...
> 本文结构采用宏观着眼,微观入手,从整体到细节的方式剖析 Hive SQL 底层原理。第一节先介绍 Hive 底层的整体执行流程,然后第二节介绍执行流程中的 SQL 编译成 MapReduce 的过程,第三节剖析 SQL 编译成 MapReduce 的具体实现原理。### 一、HiveHive是什么?Hive 是数据仓库工具,再具体点就是一个 SQL 解析引擎,因为它即不负责存储数据,也不负责计算数据,只负责解析 SQL,记录元数据。Hive直接访问存储在 HDFS 中或者 HBase ...
HBase 连接器提供了对分布式 HBase 数据库表的读写数据能力,支持做数据源表、结果表和维表。 使用限制Flink 目前提供了 HBase-1.4 和 HBase-2.2 两种连接器,请根据实际情况选择: 在 Flink 1.11-volcano 引擎版本中仅支持使用 HBase-1.4 连接器。 在 Flink 1.16-volcano 引擎版本中支持使用 HBase-1.4 和 HBase-2.2 两种连接器。 注意事项在公网环境中连接火山 HBase 时,您需要添加以下两个参数: 'properties.zookeeper.znode.me...