Ubuntu EC2实例Airflow Standalone启动失败求助:Gunicorn无响应
解决Airflow Standalone启动失败(Gunicorn超时)问题
核心修复步骤
1. 调整EC2实例资源与Airflow配置
低配EC2实例(如t2.micro)CPU/内存不足是常见诱因:
- 临时升级实例规格至t2.small及以上
- 修改
airflow.cfg优化webserver参数:
调整以下参数:nano ~/airflow/airflow.cfgweb_server_workers = 1 # 低配实例减少worker数量,默认是CPU核数*2+1 web_server_timeout = 180 # 延长超时时间,默认120秒
2. 补全Ubuntu系统依赖
全新系统可能缺失Airflow编译运行所需的底层库:
sudo apt update && sudo apt install -y python3-dev gcc g++ libpq-dev python3-pip
3. 重新安装Airflow避免依赖冲突
卸载现有版本后,用官方约束文件重新安装:
pip uninstall -y apache-airflow pip cache purge # 下载对应Python版本+Airflow版本的官方约束文件后执行(如Python3.8+Airflow2.5.0) pip install "apache-airflow==2.5.0" --constraint "./constraints-3.8.txt"
4. 手动验证Webserver状态
单独启动webserver排查问题:
airflow webserver --port 8080
若仍超时,检查EC2安全组是否开放8080端口,或实例内部防火墙规则。
数据管道部署额外配置
针对数据转换Python代码的运行需求:
- 安装数据处理依赖:
pip install pandas numpy # 根据实际需求添加pyspark、sqlalchemy等 - 确保Airflow的Python环境与代码开发环境依赖版本一致,避免运行时错误。
内容的提问来源于stack exchange,提问作者Dharmendra
相关产品推荐
相关产品推荐

