如何测试ADF通配符路径并返回匹配的Blob存储路径用于校验
ADF通配符路径匹配结果校验实现方案
方案1:管道内置校验(可固化到生产流程)
- 创建指向目标Blob存储的链接服务,对应数据集配置为容器层级,路径设置为参数化,方便传入不同通配符规则
- 管道中添加
Get Metadata活动,关联上述Blob数据集,在活动的数据集参数栏填入需要校验的通配符路径,例如你举例的JobTest/SoftwareV1/2019/1?/** - 在Get Metadata活动的「字段列表」中勾选
Child Items和Exists两个返回项:Exists返回布尔值,可直接验证通配符是否命中了对应路径Child Items会返回所有匹配通配符规则的完整路径、文件名、文件大小等元数据,全程仅读取存储元数据,不会拉取文件内容,即便数千个文件的量级也不会产生过多成本
- 可搭配
Set Variable活动将Child Items结果输出到管道运行日志,或写入临时存储做全量匹配结果的人工校验,确认规则符合预期后再接入正式的数据读取流程
方案2:调试阶段快速验证
如果只是临时测试单条通配符规则,不需要固化到管道,可以直接用数据集预览功能:
- 打开对应Blob存储的数据集,点击「预览」按钮
- 在弹窗的文件路径输入框填入你的通配符规则,点击确认后会直接返回所有匹配到的文件列表,操作耗时短,适合快速验证规则正确性
规则校验注意事项
- 通配符
?仅匹配单个字符,你示例的1?匹配10、11、12三个月份目录符合ADF通配符规则,验证时可先用小范围测试路径确认逻辑,再替换为正式路径 - 若需要额外过滤文件类型,可在Get Metadata活动的「过滤条件」栏添加后缀规则,无需修改基础通配符路径
- 要递归遍历所有后代路径需确保通配符末尾添加
/**,ADF会自动遍历所有子层级目录
内容的提问来源于stack exchange,提问作者user2181700
相关产品推荐
相关产品推荐

