当前位置: 雨过天晴 » 运维笔记 » 使用 docker 快速部署 airflow

使用 docker 快速部署 airflow

参考文档:https://airflow.apache.org/docs/apache-airflow/stable/howto/docker-compose/index.html

官方推荐分配给docker的内存至少需要4GB,推荐8GB。请使用满足要求的主机部署 airflow 。

以下步骤基于主机已经安装了 docker 和 docker-compose ,如未安装,请先进行最新版 docker 和 docker-compose 安装。

创建工作目录

mkdir -p /root/airflow/{dags,logs,plugins,config} && \
echo -e "AIRFLOW_UID=$(id -u)" > /root/airflow/.env && \
cd /root/airflow

以上命令会在 root 目录下创建名为 airflow 的工作目录,目录结构如下:

获取docker-compose.yaml

本文以安装 2.7.0 版本 airflow 为例,对应版本的 docker-compose.yaml 文件地址为 https://airflow.apache.org/docs/apache-airflow/2.7.0/docker-compose.yaml ,若安装其它版本 airflow ,请修改为正确的 docker-compose.yaml 文件地址。

curl -LfO 'https://airflow.apache.org/docs/apache-airflow/2.7.0/docker-compose.yaml'

成功获取到 docker-compose.yaml 文件:

初始化数据库

docker-compose up airflow-init

此处会联网下载需要的 docker 镜像,网速可能会比较慢,需要耐心等待下载完成。当出现 airflow-airflow-init-1 exited with code 0 时,数据库初始化完成。

运行 airflow

cd /root/airflow && docker-compose up -d

稍等片刻,等待运行 airflow 所需的容器创建完成并成功运行。

访问 airflow

浏览器访问 http://your_host_ip:8080 即可打开 airflow 登录界面,默认用户名和密码都是 airflow 。

通过以上步骤可使用 docker 快速部署 airflow 。以上步骤只需要操作一次即可,docker-compose 会自动创建 airflow 运行所需的容器,重启服务器后容器会自动运行。可通过以下命令检查容器运行状态:

cd /root/airflow && docker-compose ps -a

如需查看容器运行日志,可通过以下命令进行查看:

# 查看 airflow-worker 日志,将 airflow-worker 修改为需要查看的服务名称
cd /root/airflow && docker-compose logs -f airflow-worker
未经允许不得转载:雨过天晴 » 使用 docker 快速部署 airflow

相关文章