湖仓一体分析服务(LAS)数据源为您提供读取和写入LAS的双向通道数据集成能力,实现不同数据源与LAS之间进行数据传输。
下文为您介绍LAS数据同步的能力支持情况。
您可在数据开发 > 数据源管理中进行配置注册,相关操作可参见“注册数据源”。
任务新建完成后,进入任务配置页面,您可根据实际场景,配置LAS离线读或LAS离线写等通道任务。
选择数据源
LAS离线读
数据来源选择LAS,并完成以下相关参数配置:
其中参数名称前带 * 的为必填参数,名称前未带 * 的为可选填参数。
参数 | 说明 |
|---|---|
*数据源类型 | 您可下拉选择或输入关键词进行搜索LAS数据源类型。 |
*数据源名称 | 已在数据源管理中注册成功的LAS数据源,下拉可选。 |
*数据表 | 选择对应数据源 Schema 下所需要采集的数据表信息,下拉可选。 说明 支持读取写入 LAS Tencent COS 归属库表类型,该库表类型,您需前往 LAS 控制台中进行单独创建后方可后续配置使用,暂不支持在数据地图中进行创建该类型库表。 |
*分区设置 |
|
LAS离线写
数据目标端类型选择LAS,并完成以下相关参数配置:
其中参数名称前带 * 的为必填参数,名称前未带 * 的为可选填参数。
参数 | 说明 |
|---|---|
*数据源类型 | 您可下拉选择或输入关键词进行搜索LAS数据源类型。 |
*数据源名称 | 已在数据源管理中注册成功的LAS数据源,下拉可选。 |
*数据表 | 选择对应数据源配置下,需要写入数据的数据表信息,下拉可选。
|
*分区设置 |
|
设置字段映射信息
字段为一一映射关系,即将源表字段信息,同步到同一行的目标字段信息中。LAS数据源在选择好来源和目标数据源信息后,您可通过转换模式和基础模式方式来配置字段映射关系,操作详见“字段映射配置”。
LAS数据源在字段转换模式中,您可通过书写SQL脚本方式,实现特殊业务场景需求,如:
SELECT column1, SPLIT_INDEX(column2, 'ti', 0) AS str1, SPLIT_INDEX(column2, 'ti', 1) AS str2, c olumn3 FROM Source WHERE column1 > 0
高级参数
您可选择是否开启高级参数设置,参数说明详见“高级参数设置”。
在普通通道任务里,若源端为 MySQL、PostgreSQL、SQL Server 或者 Oracle,以下两个场景中,可添加以下高级参数来实现:
说明
--添加以下高级参数: job.writer.table_operations={"createTable":"IGNORE","addTableColumn":"EXECUTE","renameTable":"IGNORE","truncateTable":"IGNORE","updateTableColumn":"EXECUTE","renameTableColumn":"IGNORE","dropTable":"IGNORE","dropTableColumn":"IGNORE"} job.common.interceptor_name=batch_catalog_v2
调度设置
单击右侧侧边栏的调度设置,配置相关调度设置参数。调度设置说明详见“调度设置”。
任务调试
参数配置完成后,可单击调试按钮 ,在弹出的窗口中,选择业务日期进行调试,调试结果/日志可在页面查看。
单击保存图标,完成草稿保存。