Cloud Composer中CloudDataFusionPipelineStateSensor的failure_statuses参数报错问题
报错原因
- 核心原因是你当前Cloud Composer环境内置的
apache-airflow-providers-google依赖包版本过低:failure_statuses参数是在该依赖的8.4.0版本才新增到CloudDataFusionPipelineStateSensor组件中的,你查询的Airflow官方main分支源码属于最新开发版本,包含了新增参数,但Cloud Composer默认预装的依赖版本普遍低于8.4.0,对应的传感器类没有定义该参数,传入后就会触发无效参数错误。
验证方式
你可以进入Cloud Composer环境的PyPI包管理页面,查找apache-airflow-providers-google的版本号,若版本低于8.4.0即可确认是该问题。
解决方案
- 方案一:手动将Cloud Composer环境中的
apache-airflow-providers-google依赖升级到8.4.0及以上版本,升级前需要核对该版本与你当前Cloud Composer搭载的Airflow版本的兼容性,避免出现其他依赖冲突。 - 方案二:保留当前版本,直接移除
failure_statuses参数即可:低版本的CloudDataFusionPipelineStateSensor默认就会将FAILED状态判定为失败,无需额外传参也能满足基础的流水线运行状态校验需求。
内容的提问来源于stack exchange,提问作者Heikura
相关产品推荐
相关产品推荐

