Airflow生成动态任务时获取列表的最「Airflownic」方式是什么
Airflow动态任务列表获取方式选型结论
三种方案中最符合Airflow原生设计规范(即你说的「Airflownic」)的是从Airflow Variable中读取列表的方案,三种方案的具体优劣分析如下:
- 硬编码列表
list_of_names = ['a', 'b', 'c', 'd', 'e' ... 'z']
优势:DAG解析阶段无任何额外IO开销,解析速度最快,不存在跨节点配置一致性问题。
劣势:灵活性极差,调整任务列表必须修改DAG源码、走上线部署流程,仅适合任务列表完全固定、长期不会变更的场景。 - 从Airflow Variable读取
list_of_names = list(Variable.get('list_of_names', deserialize_json=True))
优势:完全贴合Airflow原生的配置管理设计,不需要修改DAG代码即可调整任务列表,适配绝大多数需要动态调整任务范围的场景。Airflow 2.x默认开启序列化DAG(Serialized DAGs)能力,开启后DAG仅在文件更新时会触发一次解析、读取一次Variable,不会给元数据库带来频繁查询压力。
注意:调用Variable.get时需要加上deserialize_json=True参数,否则UI中存储的JSON格式数组会被识别为普通字符串,无法直接迭代生成任务。 - 读取本地txt文件
是最不推荐的方案,仅适合单节点测试环境临时使用。Airflow是分布式架构,Scheduler、Webserver、所有Worker节点都需要解析DAG文件,你必须保证所有节点的对应路径下都存在相同内容的txt文件,同步成本极高,一旦出现文件缺失、内容不一致的情况,会直接导致DAG解析失败、任务运行异常。with open('list_of_names.txt', 'r') as list_file: list_of_names = list_file.read()
内容的提问来源于stack exchange,提问作者Javier Lopez Tomas
相关产品推荐
相关产品推荐

