Dans ce chapitre, vous aurez une présentation complète des composants d’Apache Airflow et apprendrez comment et pourquoi les utiliser.

Introduction à Apache Airflow

Tester une tâche dans Airflow

Examiner les commandes Airflow

DAG Airflow

Définir un DAG simple

Travailler avec des DAG et le shell Airflow

Dépanner la création d’un DAG

Interface web d’Airflow

Démarrer le serveur web d’Airflow

Parcourir l’interface Airflow

Examiner des DAG avec l’interface Airflow

Introduction à Airflow

Quoi de neuf, DAG ? Il est temps d’apprendre les bases de l’implémentation des DAG Airflow. À travers des exercices pratiques, vous verrez comment configurer et déployer des opérateurs, des tâches et la planification.

Opérateurs Airflow

Définir une tâche BashOperator

Plusieurs BashOperator

Tâches Airflow

Définir l’ordre des BashOperator

Déterminer l’ordre des tâches

Dépannage des dépendances d’un DAG

Opérateurs supplémentaires

Utiliser le PythonOperator

Plus de PythonOperators

EmailOperator et dépendances

Planification avec Airflow

Planifier un DAG via Python

Déchiffrer les plannings Airflow

Résoudre les problèmes d’exécutions de DAG

Implémenter des DAG Airflow

Dans ce chapitre, vous apprendrez à gagner du temps grâce à des composants Airflow comme les capteurs et les exécuteurs, tout en surveillant et en dépannant des workflows Airflow.

Capteurs Airflow

Options

Sensors

Both

Operators

Capteurs vs opérateurs

Privation sensorielle

Les exécuteurs Airflow

Déterminer l’executor

from airflow import DAG
from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *"
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2024,1,20),
    mode='poke',
    dag=report_dag
)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2024,1,20),
    dag=report_dag
)

precheck >> generate_report_task


from airflow import DAG
from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *"
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2024,1,20),
    mode='reschedule',
    dag=report_dag
)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2024,1,20),
    dag=report_dag
)

precheck >> generate_report_task


Conséquences liées à l’exécuteur

Débogage et résolution des problèmes dans Airflow

DAGs in the bag

from airflow import DAG
#from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *"
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2023,2,20),
    mode='poke',
    dag=report_dag)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2023,2,20),
    dag=report_dag
)

precheck >> generate_report_task


from airflow import DAG
from airflow.operators.bash import BashOperator
from datetime import datetime

sample_dag = DAG(
    dag_id = 'sample_dag',
    schedule_interval = "0 0 * * *"
)

sample_task = BashOperator(
    task_id='sample',
    bash_command='generate_sample.sh',
    start_date=datetime(2023,2,20),
    dag=sample_dag
)


from airflow import DAG
from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *"
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2023,2,20),
    mode='reschedule',
    dag=report_dag)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2023,2,20),
    dag=report_dag
)

precheck >> generate_report_task


DAG manquant

SLA et reporting dans Airflow

Définir un SLA

Définir un SLA de tâche

Générer et envoyer un rapport par e‑mail

from airflow import DAG
from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

default_args={
    '____': [____],
    '____': True,
    'email_on_success': ____
}

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *",
    default_args=default_args
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2023,2,20),
    mode='reschedule',
    dag=report_dag)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2023,2,20),
    dag=report_dag
)

precheck >> generate_report_task


from airflow import DAG
from airflow.operators.bash import BashOperator
from airflow.sensors.filesystem import FileSensor
from datetime import datetime

default_args={
    'email': ['airflowalerts@datacamp.com', 'airflowadmin@datacamp.com'],
    'email_on_failure': True,
    'email_on_success': True
}

report_dag = DAG(
    dag_id = 'execute_report',
    schedule_interval = "0 0 * * *",
    default_args=default_args
)

precheck = FileSensor(
    task_id='check_for_datafile',
    filepath='salesdata_ready.csv',
    start_date=datetime(2023,2,20),
    mode='reschedule',
    dag=report_dag)

generate_report_task = BashOperator(
    task_id='generate_report',
    bash_command='generate_report.sh',
    start_date=datetime(2023,2,20),
    dag=report_dag
)

precheck >> generate_report_task


Ajouter des e-mails d’état

Maintenir et surveiller des workflows Airflow

Rassemblez le tout. Dans ce dernier chapitre, vous appliquerez tout ce que vous avez appris pour construire un workflow de qualité production dans Airflow.

Travailler avec les templates

Créer un BashOperator avec gabarit

Gabarits avec plusieurs arguments

Plus de modèles

Utiliser des listes avec des modèles

Comprendre les options de paramétrage

Envoyer des e-mails avec des templates

Branchement

Définir un BranchPythonOperator

Dépannage d’un branchement

Créer un pipeline de production

Créer un pipeline de production #1

Créer un pipeline de production #2

Ajouter les dernières modifications à votre pipeline

Félicitations !

Construire des pipelines de production avec Airflow

Mise à jour vers Apache Airflow 2.7 – Livrer des données selon un calendrier peut vite devenir manuel et fastidieux. Vous écrivez des scripts, ajoutez des tâches cron complexes et essayez différentes approches pour répondre à des exigences qui évoluent sans cesse — et c’est encore plus délicat à gérer en équipe. Apache Airflow peut vous simplifier la vie en intégrant la planification, la gestion des erreurs et le reporting à vos workflows. Dans ce cours, vous allez maîtriser les bases d’Apache Airflow et apprendre à mettre en production des pipelines de data engineering complexes. Vous verrez aussi comment utiliser des graphes acycliques orientés (DAG), automatiser des workflows de data engineering et implémenter des tâches de manière simple et reproductible — de quoi préserver votre sérénité.

Intermediate Python

Introduction to Shell

Apprenez à planifier des workflows de data engineering avec Airflow et DAGs en Python.

Introduction à Apache Airflow en Python

Optimisez vos flux d’ingénierie des données en apprenant à les mettre en œuvre et à les planifier efficacement.

Ingénieur de données en Python

DAGs in the bag

Introduction à Apache Airflow en Python

Exercice interactif pratique