In this chapter, you’ll gain a complete introduction to the components of Apache Airflow and learn how and why you should use them.

Introduction to Apache Airflow

Testing a task in Airflow

Examining Airflow commands

Airflow DAGs

Defining a simple DAG

Working with DAGs and the Airflow shell

Troubleshooting DAG creation

Airflow web interface

Starting the Airflow webserver

Navigating the Airflow UI

Examining DAGs with the Airflow UI

Intro to Airflow

What’s up DAG? Now it’s time to learn the basics of implementing Airflow DAGs. Through hands-on activities, you’ll learn how to set up and deploy operators, tasks, and scheduling.

Airflow operatörleri

Bir BashOperator görevi tanımlama

Birden Fazla BashOperator

Airflow görevleri

BashOperator sırasını tanımla

Workflow görev sıralaması

Görevlerin sırasını belirleme

DAG bağımlılıklarında sorun giderme

Ek operatörler

PythonOperator'ı kullanma

Daha fazla PythonOperator

EmailOperator ve bağımlılıklar

Airflow zamanlama

Bir DAG'ı Python ile zamanla

Zamanlama Aralıkları

Airflow zamanlamalarını çözümleme

DAG çalıştırmalarında sorun giderme

Implementing Airflow DAGs

In this chapter, you’ll learn how to save yourself time using Airflow components such as sensors and executors while monitoring and troubleshooting Airflow workflows.

Airflow sensors

Sensors vs operators

Sensory deprivation

Airflow executors

Determining the executor

Executor implications

Debugging and troubleshooting in Airflow

DAGs in the bag

Missing DAG

SLAs and reporting in Airflow

Defining an SLA

Defining a task SLA

Generate and email a report

Adding status emails

Maintaining and monitoring Airflow workflows

Put it all together. In this final chapter, you’ll apply everything you've learned to build a production-quality workflow in Airflow.

Working with templates

Creating a templated BashOperator

Templates with multiple arguments

More templates

Using lists with templates

Understanding parameter options

Sending templated emails

Branching

Define a BranchPythonOperator

Branch troubleshooting

Creating a production pipeline

Creating a production pipeline #1

Creating a production pipeline #2

Adding the final changes to your pipeline

Congratulations!

Building production pipelines in Airflow

Apache Airflow 2.7 ile güncellendi - Veriyi bir takvime bağlı olarak teslim etmek çoğu zaman manuel bir süreçtir. Betikler yazarsın, karmaşık cron görevleri eklersin ve sürekli değişen gereksinimlere uymak için türlü yollar denersin — ekip arkadaşlarınla çalışırken her şeyi yönetmek daha da zorlaşır. Apache Airflow, iş akışlarına zamanlama, hata yönetimi ve raporlama ekleyerek bu baş ağrısını ortadan kaldırabilir. Bu derste, Apache Airflow’un temellerini öğrenecek ve üretim ortamında karmaşık veri mühendisliği boru hatlarını nasıl uygulayacağını keşfedeceksin. Ayrıca Directed Acyclic Graphs (DAG) kullanmayı, veri mühendisliği iş akışlarını otomatikleştirmeyi ve görevleri kolay ve tekrarlanabilir bir şekilde hayata geçirmeyi öğreneceksin — böylece akıl sağlığını korumana yardımcı olacak.

Intermediate Python

Introduction to Shell

Airflow ve Airflow DAG'leri ile Python'da veri mühendisliği iş akışlarını planlayıp uygulayın.

Python ile Apache Airflow'a Giriş

Veri mühendisliği iş akışlarını nasıl uygulayacağınızı ve planlayacağınızı öğrenin.

Veri Mühendisi Python'da

Airflow zamanlamalarını çözümleme

Python ile Apache Airflow'a Giriş

Uygulamalı interaktif egzersiz