Kafka数据源为您提供实时读取和离线写入Kafka的数据集成能力,实现不同数据源与Kafka之间进行数据传输。
此处为您介绍离线写入Kafka的数据同步能力说明。
说明
实时读取Kafka数据源,并写入LAS目标表的能力说明,详见“Kafka-LAS”。
您可在数据开发 > 数据源管理中进行配置注册,相关操作可参见“注册数据源”。
任务新建完成后,进入任务配置页面,您可根据实际场景,配置Kafka离线写通道任务。
选择数据源
Kafka离线写
数据目标端选择Kafka,并完成以下相关参数配置:
其中参数名称前带 * 的为必填参数,名称前未带 * 的为可选填参数。
参数 | 说明 |
|---|---|
*目标类型 | 数据去向目标类型,您可下拉选择或输入关键词Kafka进行搜索。 |
*数据源名称 | 已在数据源管理界面注册的Kafka数据源,下拉可选。 若还未建立相应数据源,可单击数据源管理按钮,前往创建Kafka数据源。 |
*Topic名称 | Kafka处理的消息源的不同分类主题名称,下拉可选数据源下对应的Topic名称。 |
*数据格式 | 默认json,不可编辑。 |
示例数据 | 以json字符串形式描述schema。 必须填写完整的数据,否则schema不准确。 |
分区设置 | 可以自定义Kafka分区规则,从Kafka message字段中选择0~N个字段,用于保证指定字段相同的值写入到Kafka的同一partition中。 |
设置字段映射信息
字段为一一映射关系,即将源表字段信息,同步到同一行的目标字段信息中。数据源在选择好来源和目标数据源信息后,您可通过转换模式和基础模式方式来配置字段映射关系。操作详见“字段映射配置”。
高级参数
您可选择是否开启高级参数设置,参数说明详见“高级参数设置”。
调度设置
单击右侧侧边栏的调度设置,配置相关调度设置参数。调度设置说明详见“调度设置”。
任务调试
参数配置完成后,可单击调试按钮 ,在弹出的窗口中,选择业务日期进行调试,调试结果/日志可在页面查看。
单击保存图标,完成草稿保存。