易扩展,容错率高## HDFS 在字节跳动的发展字节跳动已经应用 HDFS 非常长的时间了。经历了 9 年的发展,目前已直接支持了十多种数据平台,间接支持了上百种业务发展。从集群规模和数据量来说,HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。**当前在字节跳动,** **HDFS** **承载的主要业务如下:**- Hive,HBase,日志服务,Kafka 数据存储 - Yarn,Flink 的计算框架平台数据 -...
LakeHouse 定义了一种叫我们称之为 **Table Format** 的存储标准。Table format 有四个典型的特征:* **支持 ACID 和历史快照** ,保证数据并发访问安全,同时历史快照功能方便流、AI 等场景需求。* **满足多引擎... 即在数据湖的存储之上定义一个元数据,并跟数据一样保存在存储介质上面。这三者相似的需求以及相似的架构,导致了他们在演化过程中变得越来越相似。可以看到,三种数据格式都基本能覆盖绝大部分特性。![picture...
由资深的存储&数据库解决方案架构师组成。团队致力于帮助企业与组织更好的使用火山引擎云存储与云数据库产品,针对实际业务场景设计最优的解决方案,用专业技术助力组织和企业实现业务成功。## 上云迁移背景### ... IOPS是与云上应用性能相关的几个重要指标: - 延时:延时是操作执行之前所花的等待时间,延时就是云计算性能的最直接表现。 - 吞吐量:吞吐量是评价数据处理执行的速率,在数据传输方面,用字节/秒或比特/秒来表示,...
Table 格式:本质上是基于存储的、 Table 的数据+元数据定义。具体来说,这种数据格式有三个具体的实现:Delta Lake、Iceberg 和 Hudi。三种格式提出的出发点略有不同,但是它们的场景需求里都不约而同地包含了事务支持和流式支持。而它们在具体的实现中也采用了比较相似的做法,即在数据湖的存储之上定义一个元数据,并跟数据一样保存在存储介质上面。这三者相似的需求以及相似的架构,导致了他们在演化过程中变得越来越相似。...
火山引擎表格数据库 HBase 版是基于 Apache HBase 提供的全托管 NoSQL 服务,兼容标准 HBase 访问协议,具备低成本存储、高扩展吞吐等优势。更多信息,请参见什么是表格数据库 HBase 版。 表格数据库 HBase 版支持的引擎版本是什么?表格数据库 HBase 版支持 2.x 的 Apache HBase 引擎版本。关于 HBase 版本的更多信息,请参见 Apache HBase。 实例管理HBase 是否支持水平和垂直扩缩容?支持,您可以根据业务量变动,灵活变更 HBase 实...
HBase 版默认每个 Cell 的最大数据量不能超过 10MB。 说明 Cell 指 rowKey + Value 所有序列化后的长度值。 连接地址 HBase 提供 ZK 连接地址和 Thrift2 连接地址访问实例,详细信息请参见连接地址介绍。 存储空间... 存储空间上限为 1,000,000GiB,步长为 10GiB。 变更节点规格 HBase 实例变更节点规格时,默认为平滑变更,若想要快速完成规格变更,您可以提交工单联系技术支持。快速更改规格会造成闪断,请根据实际业务进行评估。 增...
表格数据库 HBase 版进行云资源管理的基本单位。实例的规格(如 CPU 核数、内存大小等)不同,性能也不同。HBase 实例规格的更多信息,请参见实例规格。 Master 节点(Master Node) Master 节点上会部署 HBase 的 HMaster,HMaster 负责管理和协调 HRegionServer,以及管理表的增删改查操作。每个 HBase 实例默认创建 2 个 Master 节点(主备)。 Region Server 节点(Region Server Node) Region Server 节点负责存放和管理 HRegion,以及...
变配方案HBase 实例支持变更的配置项如下表。 变更类型 变更说明 变更影响 升配 Master 支持升级节点规格。 不支持增加节点数量,固定 2 个节点。 升级节点过程中,实例可能会出现 1~3 分钟的断连。请谨慎操作。建议在业务低峰期执行变配操作,并确保客户端配置了正确的重试机制。 Region Server 支持升级节点规格。 支持增加节点数量,最多可增加至 100 个节点。 升级节点规格和增加节点数量对实例和业务无影响。 存储空间 ...
HBase 连接器提供了对分布式 HBase 数据库表的读写数据能力,支持做数据源表、结果表和维表。 使用限制Flink 目前提供了 HBase-1.4 和 HBase-2.2 两种连接器,请根据实际情况选择: 在 Flink 1.11-volcano 引擎版本中仅支持使用 HBase-1.4 连接器。 在 Flink 1.16-volcano 引擎版本中支持使用 HBase-1.4 和 HBase-2.2 两种连接器。 注意事项在公网环境中连接火山 HBase 时,您需要添加以下两个参数: 'properties.zookeeper.znode.me...
为提高存储效率,降低存储成本,表格数据库 HBase 版提供字典压缩功能。本文介绍如何开启字典压缩功能。 功能介绍字典压缩(ZSTD_DICT)是 HBase 深度优化的压缩算法,在 ZSTD 压缩算法的基础上进行了字典采样的优化,能... 您也可以根据实际业务需要和字典压缩功能的使用经验,自行调整该参数值进行测试,根据不同的测试结果设置符合您业务场景的最佳数值。推荐值如下: 单个 Data Block 大小 32KB 64KB 128KB Data Block 数量(推荐值) 200...
DataSail 中的 HBase 数据源为您提供读取和写入 HBase 的双向通道数据集成能力,实现不同数据源与 HBase 之间进行数据传输。下文为您介绍 HBase 数据同步的能力支持情况。 1 支持的版本HBase 使用的驱动版本是 HBas... 是否为分布式部署 根据实际情况选择 HBase 是否为分布式部署。 ZK集群地址列表 ZK 服务器集群的地址列表。 ZK中HBase根路径 ZK 集群中 HBase 在 hdfs 上的存储位置,自动填充,可编辑。 是否开启鉴权 集群是...
本文介绍如何修改 HBase 实例的容量型存储空间大小。 注意事项每个实例默认支持的容量型存储空间上限为 1,000,000GiB,步长为 10GiB。 缩容时,目标容量型存储空间不能小于当前已用空间的 120%,请根据实际业务情况合理选择。您可以在实例信息页的配置信息区域查看实例当前已用容量型存储空间大小。 费用说明按量计费实例为后付费,扩缩容后,系统将根据新存储容量按小时进行计费。 包年包年实例为预付费,扩缩容后,系统将根据升配、降...
本文为您介绍 2023 年大数据研发治理套件 DataLeap 产品功能和对应的文档动态。 2023/12/21序号 功能 功能描述 使用文档 1 数据集成 ByteHouse CDW 离线写入时,支持写入动态分区; HBase 数据源支持火山引擎 ... 新增 ByteHouse CE SQL 任务 临时查询支持 ByteHouse CE SQL 临时查询任务 ByteHouse CE SQL 临时查询 3 控制台 创建项目新增支持绑定 ByteHouse CE 引擎实例 创建项目 管理引擎 4 指标平台 新增维度管理功...