能够帮助用户快速开发流式任务,支持实时数据处理的场景和需求。相比 DataStream 作业,SQL 作业在开发成本和维护成本上都具有非常大的优势,无需掌握复杂的开发语言,编程环境等等,无需经历打包,部署等耗时的流程,简单地编辑 SQL 语句即可创建拥有复杂逻辑的流式任务。然而,对用户屏蔽掉底层细节,意味着 SQL 作业会丧失一些代码层面的灵活度。其中一个非常重要的话题就是 SQL 作业迭代中状态的保持——状态迁移。**现状**...
Flink SQL 作为实时数仓建设中重要的工具,能够帮助用户快速开发流式任务,支持实时数据处理的场景和需求,本文将分享 SQL 作业迭代中状态的保持——状态迁移相关的现状、问题解决及未来规划。作者|字节跳动基础架构工程师-周伊莎 **01** **背 景** Flink SQL 作为实时数仓建设中重要的工具,能够**帮助用户快速开发流式任务,支持实时数据处理的场景和需求**。相比 Data...
> 本文整理自字节跳动基础架构周伊莎的演讲内容。Flink SQL 作为实时数仓建设中重要的工具,能够帮助用户快速开发流式任务,支持实时数据处理的场景和需求,本文将分享 SQL 作业迭代中状态的保持——状态迁移相关的现状、问题解决及未来规划。作者|字节跳动基础架构工程师-周伊莎 # 背 景Flink SQL 作为实时数仓建设中重要的工具,能够**帮助用户快速开发流式任务,支持实时数据处理的场景和需求**。相比 DataStream 作业,S...
数据强一致。我们的客户希望数据能够实现原子性导入,并能够支持 Snapshot Read。4. 高时效性。大部分用户都需要数据亚秒级别可见,部分 Serving 场景下,用户需要数据毫秒级别的可见。5. 高吞吐导入。大数据场景下,导入性能十分关键。6. 标准 SQL 支持。用户很多都是从 MySQL 这样的系统迁移过来,所以 ANSI SQL 的支持对于用户的迁移十分关键。**系统概览** **数据模型**![picture.image](...
本文汇总数据库传输服务 DTS 的 API 接口中使用的数据结构定义详情。 AccountMapping账号信息。在 TaskType 取值为 DataMigration 、ProgressType 取值为 Account 时,可设置的参数信息。被以下接口引用: MySQL2MySQLSettings 参数 类型 是否必选 描述 示例值 Account String 是 待迁移的账号名称。 test**** ResetPassword Bool 否 是否重置密码,取值如下: true:表示重置新密码。 false:表示不重置新密码。默认值。 true Pa...
Flink SQL 作为实时数仓建设中重要的工具,能够帮助用户快速开发流式任务,支持实时数据处理的场景和需求,本文将分享 SQL 作业迭代中状态的保持——状态迁移相关的现状、问题解决及未来规划。作者|字节跳动基础架构工程师-周伊莎 **01** **背 景** Flink SQL 作为实时数仓建设中重要的工具,能够**帮助用户快速开发流式任务,支持实时数据处理的场景和需求**。相比 Data...
> 本文整理自字节跳动基础架构周伊莎的演讲内容。Flink SQL 作为实时数仓建设中重要的工具,能够帮助用户快速开发流式任务,支持实时数据处理的场景和需求,本文将分享 SQL 作业迭代中状态的保持——状态迁移相关的现状、问题解决及未来规划。作者|字节跳动基础架构工程师-周伊莎 # 背 景Flink SQL 作为实时数仓建设中重要的工具,能够**帮助用户快速开发流式任务,支持实时数据处理的场景和需求**。相比 DataStream 作业,S...
本场景介绍如何在数据库传输服务 DTS 控制台创建公网自建 MySQL 迁移至公网自建 MySQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已在公网环境中自行搭建 MySQL,并创建数据库账号。 当源库、目标库部署在 IDC 或 ECS 中,且通过公网连接,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 创建数据迁移任务之前,请确认源库和目标库的网络连通...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎 ECS 自建 MySQL 迁移至火山引擎版 MySQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已在火山引擎的 ECS 中自行搭建 MySQL,并创建数据库账号。 已创建云数据库 MySQL 版实例和数据库。详细信息,请参见创建 RDS MySQL 实例和创建数据库。 当源库、目标库部署在火山引擎的 ECS 中通过私网连接...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎专有网络 MySQL 迁移至公网自建 MySQL 任务。 前提条件已注册火山引擎账号并完成实名认证。详细操作,请参见如何进行账号注册和实名认证。 已在公网环境中自行搭建 MySQL,并创建数据库账号。 按需设置源端信息,具体如下所示: 在使用 VPN 实现数据迁移时,自建数据库所属的本地网络已通过 VPN 网关接入火山引擎。详细操作,请参见搭建云上VPC与云下多数据中心网络互通。 在...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎版 MySQL 迁移至公网自建 MySQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已创建云数据库 MySQL 版实例和数据库。详细信息,请参见创建 RDS MySQL 实例和创建数据库。 已在公网环境中自行搭建 MySQL 实例和数据库。 当源库部署在火山引擎的 ECS 中,且开启了访问限制时,您需要在 ECS 的安全组...
本场景介绍如何在数据库传输服务 DTS 控制台创建公网自建 PostgreSQL 迁移至公网自建 PostgreSQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已在公网环境中自行搭建 PostgreSQL 实例和数据库。 当源库和目标库都部署在 IDC 或 ECS 中,且通过公网连接时,您需要将 DTS 的服务器 IP 地址添加到自建库的白名单中。 创建数据迁移任务之前,请确认源库和目...
本场景介绍如何在数据库传输服务 DTS 控制台创建火山引擎版 MySQL 迁移至火山引擎版 MySQL 任务。 前提条件已注册火山引擎账号并完成实名认证。关于账号的创建方法和实名认证,请参见如何进行账号注册和实名认证。 已创建云数据库 MySQL 版实例和数据库。详细信息,请参见创建 RDS MySQL 实例和创建数据库。 创建数据迁移任务之前,请确认源库和目标库的网络连通性与服务可用性。 您还可以根据预检查项中的说明,来检查源库和目标...