In this chapter, you’ll gain a complete introduction to the components of Apache Airflow and learn how and why you should use them.

Introduzione ad Apache Airflow

Testare un task in Airflow

Esaminare i comandi di Airflow

DAG di Airflow

Definire un DAG semplice

Lavorare con i DAG e la shell di Airflow

from airflow import DAG

default_args = {
  'owner': 'jdoe',
  'start_date': '2023-01-01'
}
with DAG("etl_update",
         default_args=default_args
        ):
    pass

____

default_args = {
  'owner': 'jdoe',
  'email': 'jdoe@datacamp.com'
}
with DAG( 'refresh_data', 
          default_args=default_args 
        ):
    pass

from airflow import DAG

default_args = {
  'owner': 'jdoe',
  'email': 'jdoe@datacamp.com'
}
with DAG( 'refresh_data', 
          default_args=default_args 
        ):
    pass

Risoluzione dei problemi nella creazione dei DAG

Interfaccia web di Airflow

Avviare il webserver di Airflow

Esplorare l'interfaccia di Airflow

Esaminare i DAG con l'interfaccia di Airflow

Intro to Airflow

What’s up DAG? Now it’s time to learn the basics of implementing Airflow DAGs. Through hands-on activities, you’ll learn how to set up and deploy operators, tasks, and scheduling.

Airflow operators

Defining a BashOperator task

Multiple BashOperators

Airflow tasks

Define order of BashOperators

Determining the order of tasks

Troubleshooting DAG dependencies

Additional operators

Using the PythonOperator

More PythonOperators

EmailOperator and dependencies

Airflow scheduling

Schedule a DAG via Python

Deciphering Airflow schedules

Troubleshooting DAG runs

Implementing Airflow DAGs

In this chapter, you’ll learn how to save yourself time using Airflow components such as sensors and executors while monitoring and troubleshooting Airflow workflows.

Airflow sensors

Sensors vs operators

Sensory deprivation

Airflow executors

Determining the executor

Executor implications

Debugging and troubleshooting in Airflow

DAGs in the bag

Missing DAG

SLAs and reporting in Airflow

Defining an SLA

Defining a task SLA

Generate and email a report

Adding status emails

Maintaining and monitoring Airflow workflows

Put it all together. In this final chapter, you’ll apply everything you've learned to build a production-quality workflow in Airflow.

Working with templates

Creating a templated BashOperator

Templates with multiple arguments

More templates

Using lists with templates

Understanding parameter options

Sending templated emails

Branching

Define a BranchPythonOperator

Branch troubleshooting

Creating a production pipeline

Creating a production pipeline #1

Creating a production pipeline #2

Adding the final changes to your pipeline

Congratulations!

Building production pipelines in Airflow

Aggiornato ad Apache Airflow 2.7 - Consegnare i dati secondo una pianificazione può essere un processo manuale. Scrivi script, aggiungi complesse attività cron e provi vari modi per soddisfare requisiti che cambiano di continuo—e gestire tutto diventa ancora più complicato quando lavori in team. Apache Airflow può eliminare questo problema aggiungendo pianificazione, gestione degli errori e reportistica ai tuoi workflow. In questo corso imparerai le basi di Apache Airflow e come implementare in produzione pipeline di data engineering complesse. Imparerai anche a usare i Directed Acyclic Graphs (DAG), ad automatizzare i workflow di data engineering e a implementare attività di data engineering in modo semplice e ripetibile—aiutandoti a mantenere la lucidità.

Intermediate Python

Introduction to Shell

Impara a gestire flussi di lavoro dati con Airflow e DAGs in Python, includendo pianificazione e report.

Introduzione ad Apache Airflow in Python

Scopri come mettere in pratica e pianificare i flussi di lavoro di ingegneria dei dati.

Ingegnere dei dati in Python

Lavorare con i DAG e la shell di Airflow

Introduzione ad Apache Airflow in Python

Esercizio pratico interattivo