Airflow 3.0.5配置Minio S3远程日志失败,未使用自定义Endpoint
解决Airflow 3.0.5配置Minio远程日志时走官方S3端点的问题
核对核心配置文件参数
打开airflow.cfg,确认以下配置项准确无误:[logging] remote_logging = True remote_log_conn_id = remote_log # 必须和你创建的AWS连接ID完全匹配 remote_base_log_folder = s3://你的日志桶名称/logs # 替换成Minio上实际的存储桶路径 encrypt_s3_logs = False # Minio默认无需加密,可按需调整注意:分布式部署场景下,所有Worker节点的
airflow.cfg必须和Webserver、调度器保持一致,否则Worker会沿用本地默认配置走官方S3端点。检查AWS连接的配置细节
进入Airflow UI的Admin > Connections找到remote_log连接:- 连接类型选择Amazon Web Services
- Extra字段必须正确填写endpoint_url,格式不能出错:
{"endpoint_url": "http://10.29.144.57:9000"} - 填入Minio对应的
AWS Access Key ID和AWS Secret Access Key - Region Name留空!Minio不需要AWS区域配置,填写后会强制走对应区域的官方S3端点。
确保Worker配置已同步生效
- 容器化部署(Docker/K8s)场景:确认Worker容器加载的是修改后的
airflow.cfg,随后重启Worker服务。 - 非容器化部署场景:修改
airflow.cfg后必须重启所有Worker进程,旧配置不重启不会自动生效。
- 容器化部署(Docker/K8s)场景:确认Worker容器加载的是修改后的
验证Minio端点在Worker上的可达性
在Worker节点执行以下命令测试连通性:curl http://10.29.144.57:9000如果无法访问,排查网络问题——比如防火墙规则、端口开放状态,Worker必须能直接访问Minio的端点地址。
内容的提问来源于stack exchange,提问作者Tai Nguyen Huu
相关产品推荐
相关产品推荐

