HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。**当前在字节跳动,** **HDFS** **承载的主要业务如下:**- Hive,HBase,日志服务,Kafka 数据存储 - Yarn,Flink 的计算框架平台数据 - Spark,MapReduce 的计算相关数据存储![]()# **字节跳动特色的** **HDFS** **架构**在深入相关的技术细节之前,我们先看看字节跳动的 HDFS 架构。## **架构介绍** 字节跳动 HDFS 架构 ###...
企业在构建数据湖仓时面临的挑战分为以下 5 个方面:* **整体数据链路复杂** :即使是开发一个小的 APP,要搭建整个数据链路也很复杂,比如数据回流需要写数据库;日志要回流,要基于回流数据做指标计算,回流数据还需要... **案例 4:在线机器学习**在在线机器学习场景下,数据通过离线的方式存到数据湖仓。离线数据可以通过 Spark 进行特征抽取及特征工程,并把提取出来的特征返存到湖仓或者 HBase 等键值存储。基于离线的数...
指标平台支持 HBase 数据源创建模型绑定 - 数据地图支持 GaussDB 元数据采集 - 数据安全新增审计日志功能- **【** **公有云** **-功能迭代更新】** - 数据开发:新增 EMR Doris、EMR StarRocks 任务类型、Shell\Python\Notebook 任务支持 0.25CU/0.5CU 资源规格配置、临时查询支持交互式分析 Notebook 查询类型、LAS SQL 依赖推荐功能支持引导创建 Sensor 任务、Serverless Flink SQL 新增数据源...
**当前在字节跳动,** **HDFS** **承载的主要业务如下:*** Hive,HBase,日志服务,Kafka 数据存储* Yarn,Flink 的计算框架平台数据* Spark,MapReduce 的计算相关数据存储**02****字节跳动特色的 HDFS 架构**在深入相关的技术细节之前,我们先看看字节跳动的 HDFS 架构。**架构介绍**![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82o...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.10.13 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 Flink集群 Kafka集群 HBase集群 StarRocks集群 ClickHouse集群 Op... hdfs_journalnode 3.3.4 用于管理 HA 模式下HDFS日志的服务。 hdfs_zkfc 3.3.4 用户维护HA模式下HDFS NameNode从动态的服务。 hue_server 4.10.0 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 kno...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.10.13 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 Flink集群 Kafka集群 HBase集群 StarRocks集群 ClickHouse集群 Op... hdfs_journalnode 3.3.4 用于管理 HA 模式下HDFS日志的服务。 hdfs_zkfc 3.3.4 用户维护HA模式下HDFS NameNode从动态的服务。 hue_server 4.10.0 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 kno...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.10.13 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 Flink集群 Kafka集群 HBase集群 StarRocks集群 ClickHouse集群 Op... hdfs_journalnode 3.3.4 用于管理 HA 模式下HDFS日志的服务。 hdfs_zkfc 3.3.4 用户维护HA模式下HDFS NameNode从动态的服务。 hue_server 4.10.0 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 kno...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 Flume 1.9.0 - OpenLDAP 2.4.58 2.4.58 Ranger 1.2.0 - Z... hdfs_journalnode 2.10.2 用于管理 HA 模式下HDFS日志的服务。 hdfs_zkfc 2.10.2 用户维护HA模式下HDFS NameNode从动态的服务。 hue_server 4.9.0 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 kn...
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 Flume 1.9.0 - OpenLDAP 2.4.58 2.4.58 Ranger 1.2.0 - Z... hdfs_journalnode 2.10.2 用于管理 HA 模式下HDFS日志的服务。 hdfs_zkfc 2.10.2 用户维护HA模式下HDFS NameNode从动态的服务。 hue_server 4.9.0 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 kn...
规格型号 支持数据库实例参数 系统资源 性能参数 规格1 最多支持3个数据库实例 CPU:2 核内存:8 GB存储:500 GB 日志存储 :5亿条峰值SQL处理能力2000条/秒 规格2 最多支持6个数据库实例 CPU:2 核内存:8 GB... 5.x HBase(protobuf) 所有版本 HBase(thrift) Thrift1、thrift2 Hive 1.X、2.X、3.X Redis 所有版本 Elasticsearch 所有版本 Cassandra 3.X HDFS 所有版本 Impala 3.X Graphbase 6 Greenplum ...
Hbase等大数据计算和存储业务场景 Spark内存计算、MLlib等机器学习场景 ElasticSearch、Kafka等搜索和日志数据处理场景 规格 实例规格 vCPU 内存(GiB) 本地存储(GB) (出+入)网络带宽能力(Gbit/s) (出+入)网络收发包总能力(万PPS) 连接数(万) 网卡队列数 弹性网卡(包括一张主网卡) 单网卡私有IP 云盘IOPS(万) 云盘带宽(Gbit/s) 云盘数量(包含一块系统盘) 磁盘队列数 ecs.d2s.xlarge 4 16 8000 * 2 6 100 35 8 4 15 2 2 16 1 ec...
HBase ✅ ✅ ✅ 大数据存储 HDFS ✅ ✅ 大数据存储 Hive(on HDFS) ✅ ✅ ✅ 大数据存储 Hive(on TOS) ✅ ✅ ✅ ✅ 大数据存储 StarRocks ✅ ✅ ✅ ✅ ✅ 大数据存储 ... NoSQL MongoDB ✅ ✅ ✅ NoSQL ElasticSearch ✅ ✅ ✅ ✅ ✅ NoSQL Redis ✅ 消息队列 Kafka ✅ ✅ 消息队列 BMQ ✅ ✅ 消息队列 RocketMQ ✅ 日志...
Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_302 应用程序版本remote_base_log_folder Hadoop集群 Flink集群 Kafka集群 Presto集群 Trino集群 HBase集群 OpenSearch集群 TensorFlow集群 Doris集群 Puls... 集群服务日志外置,不再占用集群内部存储和计算资源,提高集群性能。 【组件】HDFS默认副本策略优化:根据用户选择的机型磁盘动态设置HDFS默认副本数(磁盘为云盘时默认副本是2,为本地盘时默认副本数是3),根据硬件配置...