参考文档:https://airflow.apache.org/docs/apache-airflow/stable/howto/docker-compose/index.html
官方推荐分配给docker的内存至少需要4GB,推荐8GB。请使用满足要求的主机部署 airflow 。
以下步骤基于主机已经安装了 docker 和 docker-compose ,如未安装,请先进行最新版 docker 和 docker-compose 安装。
创建工作目录
mkdir -p /root/airflow/{dags,logs,plugins,config} && \
echo -e "AIRFLOW_UID=$(id -u)" > /root/airflow/.env && \
cd /root/airflow
以上命令会在 root 目录下创建名为 airflow 的工作目录,目录结构如下:
获取docker-compose.yaml
本文以安装 2.7.0 版本 airflow 为例,对应版本的 docker-compose.yaml 文件地址为 https://airflow.apache.org/docs/apache-airflow/2.7.0/docker-compose.yaml ,若安装其它版本 airflow ,请修改为正确的 docker-compose.yaml 文件地址。
curl -LfO 'https://airflow.apache.org/docs/apache-airflow/2.7.0/docker-compose.yaml'
成功获取到 docker-compose.yaml 文件:
初始化数据库
docker-compose up airflow-init
此处会联网下载需要的 docker 镜像,网速可能会比较慢,需要耐心等待下载完成。当出现 airflow-airflow-init-1 exited with code 0 时,数据库初始化完成。
运行 airflow
cd /root/airflow && docker-compose up -d
稍等片刻,等待运行 airflow 所需的容器创建完成并成功运行。
访问 airflow
浏览器访问 http://your_host_ip:8080 即可打开 airflow 登录界面,默认用户名和密码都是 airflow 。
通过以上步骤可使用 docker 快速部署 airflow 。以上步骤只需要操作一次即可,docker-compose 会自动创建 airflow 运行所需的容器,重启服务器后容器会自动运行。可通过以下命令检查容器运行状态:
cd /root/airflow && docker-compose ps -a
如需查看容器运行日志,可通过以下命令进行查看:
# 查看 airflow-worker 日志,将 airflow-worker 修改为需要查看的服务名称
cd /root/airflow && docker-compose logs -f airflow-worker