In this chapter, you’ll gain a complete introduction to the components of Apache Airflow and learn how and why you should use them.

Introduction to Apache Airflow

Dag counter

Running your first Dag

Airflow Dags

Creating a simple Dag

Working with Dags and the Airflow shell

Examining Airflow commands

Testing a task in Airflow

Airflow web interface

Navigating the Airflow UI

Examining Dags with the Airflow UI

Dag errors

Intro to Airflow

What’s up Dag? Now it’s time to learn the basics of implementing Airflow Dags. Through hands-on activities, you’ll learn how to set up and deploy operators, tasks, and scheduling.

Airflow-operators

Een taak decoreren

Een BashOperator definiëren met @task.bash

Volgorde van taken definiëren

Meer @tasks

Dags plannen

Plan een Dag via Python

Schedule-intervallen

Airflow-schema’s ontcijferen

Problemen met Dag-runs oplossen

Gegevens uitwisselen tussen taken met XCom

Gegevens doorgeven met XCom

XCom-variabelen

Airflow-sensors

Volgorde van workflowtaken

De volgorde van taken bepalen

Een FileSensor maken

Zintuiglijke deprivatie

Building Dags in Airflow

In this chapter, you’ll learn how to save yourself time using Airflow components such as sensors and executors while monitoring and troubleshooting Airflow workflows.

Monitoring, Alerting, and Callbacks

Implementing a callback function

Implementing an SmtpNotifier

What's in the logs?

Templating with Jinja

Writing with Jinja

Subbing out

Airflow Variables

The answer is Variable

Reading a variable in Python

Variables not quite right

Debugging and troubleshooting in Airflow

Dag troubleshooting

Missing Dag

Maintaining and monitoring Airflow workflows

Put it all together. In this final chapter, you’ll apply everything you've learned to build a production-quality workflow in Airflow.

Triggers and Fault Tolerance

Implementing a Trigger Rule

Adding retries

Triggering a child Dag

Branching

Define a @task.branch

Branch troubleshooting

The HITL Operator

Adding Human approval

ApprovalOperator Task

Creating a production pipeline

Setting up the sales ETL pipeline

Adding monthly branching

Adding a human approval gate

Congratulations!

Controlling Dag Logic

Nu bijgewerkt naar Apache Airflow 3.1.6 - Gegevens volgens een schema leveren kan handmatig en omslachtig zijn. Je schrijft scripts, voegt complexe cron-taken toe en probeert op allerlei manieren te voldoen aan steeds veranderende eisen—en samenwerken met teamgenoten maakt het nóg lastiger om alles te beheren. Apache Airflow neemt je deze zorg uit handen door planning, foutafhandeling en rapportage aan je workflows toe te voegen. In deze cursus leer je de basis van Apache Airflow en hoe je complexe data-engineeringpijplijnen in productie implementeert. Je leert ook hoe je Directed Acyclic Graphs (Dags) gebruikt, data-engineeringworkflows automatiseert en data-engineeringtaken eenvoudig en herhaalbaar uitvoert—zodat je het overzicht bewaart.

Intermediate Python

Introduction to Shell

Leer workflows voor data-engineering te plannen met Airflow en Python voor planning en foutafhandeling.

Gegevens uitwisselen tussen taken met XCom

Create Your Free Account