又是一年总结时,每年这个时候都是一个让人期盼的时候,此时我们可以放下思想包袱思考这一年自己都做了什么,有什么收获,对未来有怎样的憧憬,回首过往,是充实还是虚度?是时候给自己一个交代了。2022年,而我正式从一个技术人员转型为售前,但依然对技术充满着热爱,感谢这个平台能让自
> 关于作者与团队
> **魏巍**,**火山引擎存储&数据库产品解决方案架构师**,负责存储&数据库产品在泛互联网行业的解决方案拓展工作。 > **火山引擎存储&数据库产品解决方案团队**,由资深的存储&数据库解决方案架构师组成。团队致力于帮助企业与组织更好的使用火山引擎云存储与云数据库产�# 背景 ## **HDFS** **简介** HDFS 全名 Hadoop Distributed File System,是业界使用最广泛的开源分布式文件系统。原理和架构与 Google 的 GFS 基本一致。它的特点主要有以下几项: - 和本地文件系统一样的目录树视图 - Append Only 的写入(不支持随机写) - 顺序和随机读 - 超大数据规模
# **本文为字节跳动基于****数据湖****技术的近实时场景实践,主要包括以下几部分内容:数据湖技术的特性、近实时技术的架构、电商****数仓****实践、未来的挑战与规划。** # ▌**数据湖**技术特性 1. ## **数据湖**概念 从数据研发与应用的角度,数据湖技术具有以下特点: 首先,数据湖可存储海
创建实例是开启使用表格数据库 HBase 版的第一步。本文介绍如何创建 HBase 实例。 前提条件已注册火山引擎账号,并完成实名认证。账号注册和实名认证的操作步骤,请参见如何进行账号注册和实名认证。 已创建私有网络和子网。操作步骤请参见创建私有网络及子网。 操作步骤登录 HBase 控制台。 在��
DataSail 中的 HBase 数据源为您提供读取和写入 HBase 的双向通道数据集成能力,实现不同数据源与 HBase 之间进行数据传输。下文为您介绍 HBase 数据同步的能力支持情况。 1 支持的版本HBase 使用的驱动版本是 HBase-client 2.3.1,该驱动支持的内核版本为 2.x 版本。 2 支持的字段类型HBase 支持的 DataSail 内部类型
为提高存储效率,降低存储成本,表格数据库 HBase 版提供字典压缩功能。本文介绍如何开启字典压缩功能。 功能介绍字典压缩(ZSTD_DICT)是 HBase 深度优化的压缩算法,在 ZSTD 压缩算法的基础上进行了字典采样的优化,能够进一步压缩存储空间,数据压缩比可高达 10:1 以上。经实际测试,当开启字典压�
本文为您介绍 2023 年大数据研发治理套件 DataLeap 产品功能和对应的文档动态。 2023/12/21序号 功能 功能描述 使用文档 1 数据集成 ByteHouse CDW 离线写入时,支持写入动态分区; HBase 数据源支持火山引擎 ... 并支持应用在权限负责人、代办等功能 我的权限-支持替他人申请 历史权限-支持批量重新申请 主动授权审计-支持查看授权类型 代办设置-支持按角色设置代办 在途工单审批人实时更新 概述 权限申请 授权管理 权限设置...
创建实例是开启使用表格数据库 HBase 版的第一步。本文介绍如何创建 HBase 实例。 前提条件已注册火山引擎账号,并完成实名认证。账号注册和实名认证的操作步骤,请参见如何进行账号注册和实名认证。 已创建私有网络... 适用于需要长期存储大量数据以及对性价比要求较高的场景。 SSD盘:SSD 盘读写速度快、时延低、稳定性高,适用于需要频繁读写以及对稳定性要求较高的场景。 存储空间 选择实例的存储空间。取值范围:100GiB~20,000GiB...
本文汇总了表格数据库 HBase 版可能出现的所有实例状态详情。 实例状态 参数值 触发场景 说明或影响 创建中 Creating 创建实例。 实例正在创建过程中,此时还无法提供数据库服务。 创建失败 CreateFailed 实例创建失败。 系统异常等问题导致创建实例失败。此时实例无法提供服务。您可以尝试重新创建或�
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 Flume 1.9.0 - OpenLDAP 2.4.58 2.4.58 Ranger 1.2.0 - ZooKeeper 3.7.0 3.7.0 Flink 1.15.1 - HDFS 2.10.2 2.10.2 MapReduce2 2.10.2 - YARN 2.10.2 - Airflow 2.4.2 - Hive 2.3.9 - Hue 4.9.0 - Knox 1.5.0 - Presto 0.267 - Trino 392 - Spa
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 Flume 1.9.0 - OpenLDAP 2.4.58 2.4.58 Ranger 1.2.0 - ZooKeeper 3.7.0 3.7.0 Flink 1.15.1 - HDFS 2.10.2 2.10.2 MapReduce2 2.10.2 - YARN 2.10.2 - Airflow 2.4.2 - Hive 2.3.9 - Hue 4.9.0 - Knox 1.5.0 - Presto 0.267 - Trino 392 - Spa
环境信息 系统环境版本 环境 OS veLinux(Debian 10兼容版) Python2 2.7.16 Python3 3.7.3 Java ByteOpenJDK 1.8.0_352 应用程序版本 Hadoop集群 HBase集群 HDFS 2.10.2 2.10.2 YARN 2.10.2 2.10.2 MapReduce2 2.10.2 2.10.2 Hive 2.3.9 - Spark 2.4.8 - Tez 0.10.1 - Knox 1.5.0 1.5.0 Openldap 2.5.13 2.5.13 Zookeeper 3.7.0 3.7.0 Ossa 1.0.0 - HBase 1.6.0 1.6.0 Flink 1.16.1 - Presto 0.280 -