如何在ADF复制活动中查询Azure Table Storage指定列完成数据同步
Azure Table Storage 字段筛选同步(ADF实现)最优方案
你遇到的报错本质是Azure Table Storage作为ADF数据源时,不支持SQL类查询语法,只能通过以下两种方案实现字段筛选同步,优先推荐第一种:
方案1:源端OData过滤(性能最优)
该方案在源端就过滤掉不需要的字段,大幅减少数据传输量,同步效率最高,操作步骤如下:
- 打开复制活动的「源」配置页
- 在「查询」输入框填写OData筛选语句:
$select=字段1,字段2,字段3,字段4,字段5,字段6,字段7,将占位字段替换为你实际需要保留的7个字段名,如需保留Azure Table内置的PartitionKey、RowKey字段也要一并加入列表 - 切换到「映射」配置页,点击「重置映射」,系统会自动拉取源端过滤后的7个字段,确认和目标表字段的映射关系正确即可
- 运行任务验证同步结果
注意:字段名大小写需和源表完全一致,含特殊字符的字段名需要用单引号包裹
方案2:全量拉取后映射剔除(操作最简)
如果同步数据量不大,不想写查询语句,可以用这个更简单的方案:
- 源配置页不填写任何查询内容,默认拉取源表全部15个字段
- 切换到「映射」配置页,点击「导入架构」,在自动生成的映射列表里,直接删除不需要的8个字段对应的映射行,只保留需要的7个字段的映射
- 运行任务即可,ADF仅会同步保留映射关系的字段到目标表
内容的提问来源于stack exchange,提问作者gumdrop
相关产品推荐
相关产品推荐

