In this chapter, you’ll gain a complete introduction to the components of Apache Airflow and learn how and why you should use them.

Introduzione ad Apache Airflow

Contatore di Dag

Esegui il tuo primo Dag

DAG di Airflow

Creare un Dag semplice

Lavorare con i Dag e la shell di Airflow

Esaminare i comandi di Airflow

Testare un task in Airflow

Interfaccia web di Airflow

Esplorare l'interfaccia di Airflow

Esaminare i Dag con la UI di Airflow

Errori del Dag

Intro to Airflow

What’s up Dag? Now it’s time to learn the basics of implementing Airflow Dags. Through hands-on activities, you’ll learn how to set up and deploy operators, tasks, and scheduling.

Airflow operators

Decorating a task

Defining a BashOperator with @task.bash

Define order of Tasks

More @tasks

Scheduling Dags

Schedule a Dag via Python

Deciphering Airflow schedules

Troubleshooting Dag runs

Passing data between tasks with XCom

Passing data with XCom

XCom variables

Airflow Sensors

Determining the order of tasks

Creating a FileSensor

Sensory Deprivation

Building Dags in Airflow

In this chapter, you’ll learn how to save yourself time using Airflow components such as sensors and executors while monitoring and troubleshooting Airflow workflows.

Monitoring, Alerting, and Callbacks

Implementing a callback function

Implementing an SmtpNotifier

What's in the logs?

Templating with Jinja

Writing with Jinja

Subbing out

Airflow Variables

The answer is Variable

Reading a variable in Python

Variables not quite right

Debugging and troubleshooting in Airflow

Dag troubleshooting

Missing Dag

Maintaining and monitoring Airflow workflows

Put it all together. In this final chapter, you’ll apply everything you've learned to build a production-quality workflow in Airflow.

Triggers and Fault Tolerance

Implementing a Trigger Rule

Adding retries

Triggering a child Dag

Branching

Define a @task.branch

Branch troubleshooting

The HITL Operator

Adding Human approval

ApprovalOperator Task

Creating a production pipeline

Setting up the sales ETL pipeline

Adding monthly branching

Adding a human approval gate

Congratulations!

Controlling Dag Logic

Ora aggiornato ad Apache Airflow 3.1.6 - Consegnare dati su base programmata può essere un processo manuale. Scrivi script, aggiungi complicati task cron e provi varie soluzioni per soddisfare requisiti in continua evoluzione — e gestire tutto è ancora più difficile quando lavori in team. Apache Airflow può eliminare questo problema aggiungendo pianificazione, gestione degli errori e reportistica ai tuoi workflow. In questo corso, imparerai le basi di Apache Airflow e come implementare in produzione pipeline di data engineering complesse. Imparerai anche a usare i Directed Acyclic Graphs (DAG), ad automatizzare i workflow di data engineering e a implementare task di data engineering in modo semplice e ripetibile — aiutandoti a mantenere la sanità mentale.

Intermediate Python

Introduction to Shell

Impara a gestire flussi di lavoro dati con Airflow e DAGs in Python, includendo pianificazione e report.

Introduzione ad Apache Airflow in Python

Scopri come mettere in pratica e pianificare i flussi di lavoro di ingegneria dei dati.

Ingegnere dei dati in Python

Esaminare i comandi di Airflow

Introduzione ad Apache Airflow in Python

esercizio interattivo pratico