You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Airflow 3.0.5配置Minio S3远程日志失败,未使用自定义Endpoint

解决Airflow 3.0.5配置Minio远程日志时走官方S3端点的问题
  • 核对核心配置文件参数
    打开airflow.cfg,确认以下配置项准确无误:

    [logging]
    remote_logging = True
    remote_log_conn_id = remote_log  # 必须和你创建的AWS连接ID完全匹配
    remote_base_log_folder = s3://你的日志桶名称/logs  # 替换成Minio上实际的存储桶路径
    encrypt_s3_logs = False  # Minio默认无需加密,可按需调整
    

    注意:分布式部署场景下,所有Worker节点的airflow.cfg必须和Webserver、调度器保持一致,否则Worker会沿用本地默认配置走官方S3端点。

  • 检查AWS连接的配置细节
    进入Airflow UI的Admin > Connections找到remote_log连接:

    • 连接类型选择Amazon Web Services
    • Extra字段必须正确填写endpoint_url,格式不能出错:
      {"endpoint_url": "http://10.29.144.57:9000"}
      
    • 填入Minio对应的AWS Access Key ID和AWS Secret Access Key
    • Region Name留空!Minio不需要AWS区域配置,填写后会强制走对应区域的官方S3端点。
  • 确保Worker配置已同步生效

    • 容器化部署(Docker/K8s)场景:确认Worker容器加载的是修改后的airflow.cfg,随后重启Worker服务。
    • 非容器化部署场景:修改airflow.cfg后必须重启所有Worker进程,旧配置不重启不会自动生效。
  • 验证Minio端点在Worker上的可达性
    在Worker节点执行以下命令测试连通性:

    curl http://10.29.144.57:9000
    

    如果无法访问,排查网络问题——比如防火墙规则、端口开放状态,Worker必须能直接访问Minio的端点地址。

内容的提问来源于stack exchange,提问作者Tai Nguyen Huu

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.12 10:24:56