You need to enable JavaScript to run this app.
导航

在 DTS 同步任务中配置 ETL

最近更新时间2023.04.25 14:00:50

首次发布时间2022.09.16 09:57:40

数据库传输服务 DTS 提供流式数据 ETL(Extract Transform Load)数据处理功能。您可以在创建同步任务时,通过编辑 DSL 脚本语言定义数据处理逻辑,对源库数据进行抽取、转换、加工和装载。本文介绍如何在 DTS 的同步任务中配置 ETL。

前提条件

已注册火山引擎账号并完成实名认证。账号的创建方法和实名认证,请参见如何进行账号注册实名认证

注意事项

  • ETL 功能目前处于邀测阶段,如需使用请提交工单联系技术支持。

  • 当您在 ETL 脚本配置了新增列的操作时,您需要手动在目标数据库的表格中添加列。否则 ETL 脚本不生效。

  • 当您在 ETL 脚本中转换了列的属性,例如将 bigint 转换为 vachar,您需要手动在目标数据库的表格中修改目标列的属性。否则 ETL 脚本不生效。

支持的数据库

ETL 支持的源库和目标库如下所示:

  • 源库和支持的版本。

    源库版本

    火山引擎 MySQL

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    火山引擎版 veDB MySQLMySQL 8.0

    火山引擎 ECS 自建 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    公网自建 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    火山引擎专有网络 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

  • 目标库和支持的版本。

    实例类型目标库版本

    MySQL

    火山引擎 MySQL

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    火山引擎版 veDB MySQLMySQL 8.0

    火山引擎 ECS 自建 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    公网自建 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    火山引擎专有网络 MySQL

    • MySQL 5.5

    • MySQL 5.6

    • MySQL 5.7

    • MySQL 8.0

    ElasticSearch

    火山引擎版 ElasticSearch

    • 6.7.1

    • 7.10.2

    火山引擎 ECS 自建 ElasticSearch

    • 6.7.1

    • 7.10.2

    公网自建 ElasticSearch

    • 6.7.1

    • 7.10.2

操作步骤

  1. 创建同步任务。详细信息,请参见创建并启动同步任务

  2. 配置同步对象步骤的高级配置时,开启ETL配置选择

  3. Code goes here... 输入框中编辑数据处理语句。关于数据处理语句的详细信息,请参见 DSL 语法

  4. 单击校验语法,验证数据处理语句是否正确。

    说明

    当有错误提示时,您需要根据错误提示修改数据处理语句。

  5. 后续操作,请参见创建并启动同步任务