Azure新手求助:CSV导入SQL DB与多分支数据管道的服务推荐
完成指定Azure数据处理任务所需服务
任务1:Blob CSV按Schema导入Azure SQL DB
- Azure Blob Storage:存放源文件
file_1.csv和架构定义schema_1.json - Azure SQL Database:数据导入的目标数据库
- Azure Data Factory (ADF):通过复制活动读取CSV,结合
schema_1.json做字段映射,将数据写入SQL DB;也可直接在ADF数据集中关联该schema文件确保字段匹配
任务2:分支式数据管道处理
- Azure Blob Storage:存储源文件
file_A.csv、file_B.csv,以及转换后的中间JSON文件 - Azure SQL Database:存储分支一的原始数据和分支二的更新版本数据
- Azure Data Factory (ADF):
- 用分支活动拆分管道流程
- 分支一:通过映射数据流或复制+转换活动将CSV转JSON,同时把JSON存入Blob、原始数据写入SQL DB
- 分支二:读取Blob中的JSON和
file_B.csv,用映射数据流或合并活动完成关联操作,将结果写入SQL DB作为更新版本
- 可选Azure Databricks:如果关联/转换逻辑复杂,可在ADF中调用Databricks作业处理,再回写SQL DB
内容的提问来源于stack exchange,提问作者99_zz
相关产品推荐
相关产品推荐

