包括支持LAS/ByteHouse数据源、OpenAPI和元数据采集等ToB场景新特性。 ![picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/63c7246dce404ba8b443e5854691cfa1~tplv-tl... Data Catalog在元数据存储上使用到了Hbase/MySQL/ES/Redis,然后在元数据采集和同步场景使用了Kafka,同时用到了日志服务来提高研发运维效率。 ![picture.image](https://p6-volc-community-sign.byt...
> 更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群# **前言**Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据、数据消费者找数和理解数的业务场景。... 包括支持LAS/ByteHouse数据源、OpenAPI和元数据采集等ToB场景新特性。# Data Catalog公有云整体架构![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/27845282d45f4c77800f...
2021年9月至2022年5月,Data Catalog发布10+版本,对齐95%内部核心功能以及发布新功能20+,包括支持LAS/ByteHouse数据源、OpenAPI和元数据采集等ToB场景新特性。# Data Catalog公有云整体架构![image.png](h... **数据库和中间件:** 是和业界主流云厂商对齐的存储和中间件领域的标准云服务,和公司内部对应组件也会有若干差异,Data Catalog为此也做了多版本的兼容。Data Catalog在元数据存储上使用到了Hbase/MySQL/ES/Red...
API等功能,和DataLeap其他功能模块(如数据开发、数据集成、数据质量、数据安全等)一起提供了大数据研发和治理场景的一站式解决方案。同时,Data Catalog公有云产品是基于火山引擎提供的数据引擎和云基础设施来部署和服务的,下面会简单介绍下我们所依赖和使用的产品和服务:- **数据引擎:** 是火山引擎提供的数据分析、数据仓库和数据湖相关产品,包括ByteHouse/EMR/LAS等产品。通常Data Catalog会从这类系统内采集元并存储元数据...
以及提供表数据的读写服务。每个 HBase 实例可以创建 2~100 个 Region Server 节点。 说明 HBase 中的表根据行会分隔为多个 HRegion,HRegion 是 HBase 中分布式存储和负载均衡的最小单元,不同的 HRegion 可以分布在不同的 HRegionServer 上。 ZK 连接地址(ZK Address) 表格数据库 HBase 版实例默认提供 ZK 连接地址。使用 Java API 可直接通过 ZK 连接地址访问 HBase 实例,详情请参见使用 Java API 连接实例。 Thrift2 连接地址...
本文介绍表格数据库 HBase 版的产品功能动态和相关文档。 2024 年 03 月功能 功能描述 发布时间 发布地域 相关文档 新增 SSD 存储类型 HBase 支持 SSD 存储类型,SSD 存储读写速度快、时延低、稳定性高,适用于需要频... 能够有效降低存储成本。 2024-02-06 全部 开启字典压缩 2023 年 12 月功能 功能描述 发布时间 发布地域 相关文档 支持冷热分离存储 表格数据库 HBase 版提供容量型存储作为冷存储介质,支持按照数据的写入时间对一张...
数据冷热分离,需要以时间分界点为依据,对数据进行存储。本文介绍如何设置冷热分离时间分界点。 前提条件已创建实例,且已开通容量型存储,详情请参见开通容量型存储。 已连接 HBase 实例: 通过 HBase Shell 连接实例,详情请参见使用 HBase Shell 连接实例。 通过 Java API 连接实例,详情请参见使用 Java API 连接实例。 设置冷热分离时间分界点通过调整 COLD_BOUNDARY 来设置冷热分离时间分界点,单位为秒(s),取值如下所示: 取值...
HBase 版可用的地域资源信息。 请求类型同步请求。 请求参数名称 类型 是否必选 示例值 描述 RegionId String 否 cn-beijing 地域 ID。 说明 若该参数留空,会返回当前账号下所有可用的地域资源信息。 返回数据名称 类型 示例值 描述 Regions Array of RegionInfo 请参见返回示例。 地域信息列表。关于 RegionInfo 的详细说明,请参见数据结构。 请求示例json POST https://hbase.volcengineapi.com/?Action=DescribeRegions...
调用 DescribeZones 接口查询表格数据库 HBase 版指定地域下的可用区资源信息。 请求类型同步请求。 请求参数名称 类型 是否必选 示例值 描述 RegionId String 是 cn-beijing 地域 ID。 说明 您可以调用 Descr... 返回数据名称 类型 示例值 描述 Zones Array of ZoneInfo 请参见返回示例。 可用区列表。关于 ZoneInfo 的详细说明,请参见数据结构。 请求示例json POST https://hbase.volcengineapi.com/?Action=DescribeZone...
RSSpec String 是 hbase.x1.large RegionServer 节点的规格码。 说明 关于 RegionServer 节点所支持的规格信息,请参见实例规格。 StorageType String 是 HdfsHdd 实例的存储类型,取值: HdfsHdd:HDD 文件... EngineVersion String 是 HBase_2.0 HBase 数据库引擎版本。当前仅支持 HBase 2.0 版本,取值默认为 HBase_2.0。 VpcId String 是 vpc-2d66uvmd9i8lc58ozz**** 私有网络 ID。 说明 您可以调用 DescribeVpcs 接...
本文汇总了表格数据库 HBase 版实例支持的功能。 类别 功能 实例管理 变更实例配置 冷热分离 重启实例 修改实例参数 删除或退订实例 实例删除保护 标签管理 连接管理 申请 Thrift2 连接地址 释放 Thrift2 连接地址 开启公网访问 关闭公网访问 使用 Java API 连接实例 使用 HBase Shell 连接实例 监控告警 查看监控数据 设置告警 白名单管理 创建白名单 编辑白名单 绑定实例和白名单 解绑实例和白名单 删除白名单 ...
本文为您介绍 2023 年大数据研发治理套件 DataLeap 产品功能和对应的文档动态。 2023/12/21序号 功能 功能描述 使用文档 1 数据集成 ByteHouse CDW 离线写入时,支持写入动态分区; HBase 数据源支持火山引擎 HBase 数据库标品数据源配置; Doris 数据源新增支持离线读取 Doris 数据; 新增 VeDB 数据源配置,支持离线读取和写入 VeDB 数据; 新增火山引擎 TLS 数据源配置 实时整库、分库分表同步解决方案,新增支持写入 ByteHous...
表格数据库 HBase 版服务会对每个访问的请求进行身份验证,因此您需要在请求中包含签名信息。本文介绍表格数据库 HBase 版的 API 签名机制。 创建一个正规化请求说明 Hash 代指 SHA256 算法。 HexEncode 代指转 16 进制编码。 您在访问需要按照下面的方法对请求进行签名处理: CanonicalRequest = HTTPRequestMethod + '\n' + CanonicalURI + '\n' + CanonicalQueryString + '\n' + CanonicalHeaders + '\n' + SignedHeaders + '\...