如何配置Docker跨机器部署的Airflow Worker，实现Webserver远程日志获取

看起来你遇到的核心问题是Webserver无法从远程Worker节点获取任务日志，导致任务被误标记为失败——虽然Worker实际执行了任务，但日志拉取失败触发了Airflow的失败判定。下面结合你遇到的几个报错，一步步给出针对性解决方案：

一、先理清报错背后的核心原因 #

你的几次配置调整暴露了两个关键问题：

• Worker向Scheduler/Webserver报告的地址（IP/hostname）无法被Webserver所在机器访问
• 日志文件的存储路径在Webserver和远程Worker之间没有共享，且Worker的日志服务权限配置存在限制

二、分步解决办法 #

1. 让Worker报告可被Webserver访问的正确地址 #

Airflow的Worker会通过HOSTNAME_CALLABLE配置的函数生成自身地址，Webserver依赖这个地址访问Worker的日志服务（默认8793端口）。针对你的场景：

• 不要用socket.getfqdn：它返回的是Worker容器的hostname，跨机器环境下无法解析
• 不要用airflow.utils.net.get_host_ip_address：它返回的是Worker容器的内网IP，Webserver所在机器无法直接访问这个私有网段

正确配置方式：
在远程Worker的docker-compose.yml的airflow-common-env中，直接指定Worker所在宿主机的可访问IP（公网IP或局域网IP），替换原有的HOSTNAME_CALLABLE：

AIRFLOW__CORE__HOSTNAME_CALLABLE: 'lambda: "XX.X.XX.XXX"'  # 替换成远程Worker宿主机的实际IP

同时，确保远程Worker宿主机的防火墙/安全组开放了8793端口，允许Webserver所在机器的访问请求。

2. 修复日志服务的权限问题（解决Forbidden错误） #

当你手动替换IP访问出现Forbidden提示时，是因为Airflow的日志服务默认限制了访问来源。需要在所有节点（Webserver和Worker）的配置中添加：

AIRFLOW__WEBSERVER__ALLOWED_HOSTS: '*'  # 生产环境可指定Webserver的IP来缩小范围
AIRFLOW__LOGGING__WORKER_LOG_SERVER_PORT: 8793

另外，检查Worker容器内的日志目录权限：确保/opt/airflow/logs目录的权限对airflow用户（UID 50000）开放，你已经配置了user: "${AIRFLOW_UID:-50000}:${AIRFLOW_GID:-0}"，可以在Worker容器内执行ls -l /opt/airflow/logs确认权限是否正常。

3. 统一日志存储路径（可选但推荐） #

目前你的Webserver和远程Worker各自挂载本地的./logs目录，这会导致Webserver本地没有远程Worker生成的日志文件，必须依赖从Worker拉取。如果要彻底避免日志拉取问题，推荐使用共享存储方案：

• 搭建NFS服务器，将Webserver和所有Worker的/opt/airflow/logs挂载到同一个NFS目录
• 或者使用云存储（如S3、GCS），配置Airflow使用远程日志：

  AIRFLOW__LOGGING__REMOTE_LOGGING: 'true'
  AIRFLOW__LOGGING__REMOTE_BASE_LOG_FOLDER: 's3://your-bucket/airflow-logs'  # 替换为你的存储路径
  AIRFLOW__LOGGING__REMOTE_LOG_CONN_ID: 'aws_default'  # 对应已配置的云存储连接ID
  

这样Webserver可以直接从共享存储读取日志，不需要从Worker拉取，彻底解决跨机器日志访问问题。

4. 调整Worker启动命令的-H参数 #

你的远程Worker启动命令中指定了-H worker_3或-H worker_4_py2，这会覆盖HOSTNAME_CALLABLE的配置，导致Worker仍然报告这个自定义hostname，Webserver无法解析。去掉启动命令中的-H参数，让Worker使用HOSTNAME_CALLABLE配置的地址：
比如把远程Worker的entrypoint修改为：

entrypoint: airflow celery worker -q py2  # 移除 -H worker_4_py2

三、验证步骤 #

1. 重启所有Webserver、Scheduler和远程Worker容器
2. 触发一个测试任务，观察Worker是否正常执行
3. 查看Webserver的日志，确认日志拉取请求的地址是远程Worker宿主机的IP:8793
4. 在Webserver所在机器手动执行curl http://XX.X.XX.XXX:8793/log/test/test/[任务日期]/1.log，确认能正常获取日志内容

四、额外排查点 #

• 确认远程Worker的8793端口在宿主机上正常监听：在Worker宿主机执行netstat -tulpn | grep 8793，应看到0.0.0.0:8793的监听记录
• 检查Celery的Broker（Redis）和Result Backend（Postgres）是否能被所有节点正常访问，确保Worker能上报任务状态
• 如果你使用自定义Worker镜像，确认镜像中安装的celery、airflow版本和主节点一致（2.1.4）

内容的提问来源于stack exchange，提问作者Zheng