Airflow（GCP Composer）变量/GCP密钥查询异常行为求助

针对你在Google Cloud Composer（Airflow 2.2.3）遇到的随机变量KeyError问题，结合场景和版本特性，常见原因及排查方向如下：

1. 缓存与同步延迟 #

Airflow 2.2.3对接Secret Manager时，默认会对变量进行缓存（默认缓存超时variables_cache_timeout为300秒）。当你更新DAG后，Composer的Webserver/Worker节点可能未及时刷新缓存，加上Secret Manager的权限或数据同步存在延迟，导致部分节点无法获取最新变量列表，出现随机找不到变量的情况——这和你观察到的10分钟左右波动时间线高度吻合。

2. 节点状态不一致 #

如果你的Composer环境开启了自动扩缩容，或正处于节点滚动更新阶段，不同节点的缓存状态、配置同步进度不一致：请求打到已加载新配置的节点时正常，打到未更新的节点就会报错，从而出现时好时坏、报错变量随机变化的现象。

3. 变量匹配细节问题 #

即便前缀正确，也要确认：

• 变量名称大小写是否完全一致（Airflow Variable和Secret Manager密钥名称均大小写敏感）
• 密钥名称是否包含空格、特殊字符，导致解析时匹配失败
• 密钥是否处于启用状态（Secret Manager中如果密钥版本被禁用，也会触发访问失败）

4. IAM权限传播延迟 #

检查Composer服务账号是否拥有secretmanager.secrets.access权限，且权限范围覆盖所有airflow-variables-*密钥。如果权限是分批配置的，可能存在权限传播延迟，导致部分变量暂时无法访问。

5. 后端配置未同步 #

确认Composer的环境配置中：

• AIRFLOW__SECRETS__BACKEND已设置为airflow.providers.google.cloud.secrets.secret_manager.CloudSecretManagerBackend
• AIRFLOW__SECRETS__BACKEND_KWARGS正确配置了prefix="airflow-variables-"
  如果部分节点未同步到最新配置，会导致变量解析逻辑不一致，引发随机错误。

临时验证方法 #

• 手动重启Composer的Webserver和Worker节点，强制刷新缓存与配置
• 在DAG中添加日志，直接调用Secret Manager API获取变量并打印，对比Variable.get()的结果，定位是缓存还是权限问题
• 检查Secret Manager的密钥版本历史，确认变量未被意外删除或禁用

内容的提问来源于stack exchange，提问作者FrustratedWithFormsDesigner