You need to enable JavaScript to run this app.
文档中心
大数据研发治理套件(私有化)

大数据研发治理套件(私有化)

复制全文
离线数据集成
Doris任务配置
复制全文
Doris任务配置

Doris 是一个现代化的 MPP 分析型数据库产品,DataLeap 中 Doris 数据源支持您通过配置数据集成同步任务方式,将其他数据库中的数据写入到 Doris 集群数据库中,实现不同数据源中的数据与 Doris 之间进行数据传输。
本文为您介绍 DataLeap 的 Doris 数据同步能力支持情况。

Doris 数据源注册

您可在数据开发 > 数据源管理中进行配置注册,相关操作可参见“注册数据源”。

任务配置

任务新建完成后,进入任务配置页面,您可根据实际场景,配置 Doris 离线写或 Doris 流式写等通道任务。

Doris 离线写

数据目标端选择 Doris,并完成以下相关参数配置:
其中参数名称前带 * 的为必填参数,名称前未带 * 的为可选填参数。

参数

说明

*数据源类型

数据去向目标类型,您可下拉选择或输入关键词 Doris 进行搜索。

*数据源名称

已在数据源管理界面注册的 Doris 数据源,下拉可选。
若还未建立相应数据源,可单击数据源管理按钮,前往创建 Doris 数据源。

*数据表

数据源下所属需数据写入的表名,下拉可选。

写入前准备语句

在执行该数据集成任务前,需要率先执行的SQL语句,通常是为了使任务重跑时支持幂等。
例如您可以通过填写语句,清空表中的某些旧数据,清空完成后,再执行集成任务写入新的数据。如删除 date='${date}' 的数据:delete from table_name where date='${date}'

说明

只允许执行一条写入前准备语句。

写入后准备语句

执行数据同步任务之后执行的 SQL 语句。例如写入完成后插入某条特殊的数据,标志导入任务执行结束。

说明

只允许执行一条写入后准备语句。

*数据写入方式

下拉选择数据写入 Doris 的方式,目前仅支持 Batch Replace 写入方式,即通过 Batch Replace 接口导入数据。

Doris 流式写

流式数据写入 Doris 集成任务,数据目标端选择 Doris,并完成以下相关参数配置:
其中参数名称前带 * 的为必填参数,名称前未带 * 的为可选填参数。

参数

说明

*目标类型

数据去向目标类型选择 Doris。

*数据源名称

已在数据源管理界面注册的 Doris 数据源,下拉可选。
若还未建立相应数据源,可单击数据源管理按钮,前往创建 Doris 数据源。

*数据表

数据源配置的数据库下,选择需数据写入的表名,下拉可选。

设置字段映射信息

数据源信息配置完成后,您需进行来源与目标端字段映射配置。
字段为一一映射关系,即将源表字段信息,同步到同一行的目标字段信息中,您可通过转换模式和基础模式方式来配置字段映射关系。操作详见“字段映射配置”。

高级参数

您可选择是否开启高级参数设置,参数说明详见“高级参数设置”。

调度设置

单击右侧侧边栏的调度设置,配置相关调度设置参数。调度设置说明详见“调度设置”。

任务调试与保存

参数配置完成后,可单击调试按钮 ,在弹出的窗口中,选择业务日期进行调试,调试结果/日志可在页面查看。
单击保存图标,完成草稿保存。

最近更新时间:2026.02.04 10:41:49
这个页面对您有帮助吗?
有用
有用
无用
无用