Bu bölümde, Apache Airflow’un bileşenlerine kapsamlı bir giriş yapacak ve bunları nasıl ve neden kullanman gerektiğini öğreneceksin.

Apache Airflow’a Giriş

Dag sayacı

İlk Dag'ini çalıştırma

Airflow DAG'leri

Basit bir Dag oluşturma

Dag'lerle ve Airflow kabuğuyla çalışma

Airflow komutlarını inceleme

Airflow'da bir görevi test etme

Airflow web arayüzü

Airflow UI'da gezinme

Airflow UI ile Dags inceleme

Dag hataları

Airflow’a Giriş

N’aber Dag? Şimdi Airflow Dag’lerini uygulamanın temellerini öğrenme zamanı. Uygulamalı etkinliklerle operatörleri, görevleri ve zamanlamayı nasıl kurup dağıtacağını öğreneceksin.

Airflow operatörleri

Bir görevi dekore etmek

@task.bash ile bir BashOperator tanımlama

Görevlerin sırasını tanımla

Daha fazla @tasks

Dag’leri Zamanlama

Bir Dag'i Python ile zamanla

Airflow zamanlamalarını çözümleme

Dag çalıştırmalarını sorun giderme

Görevler arasında XCom ile veri paylaşma

XCom ile veri aktarma

XCom değişkenleri

Airflow Sensörleri

Görevlerin sırasını belirleme

Bir FileSensor oluşturma

Duyusal Yoksunluk

Airflow’da Dag Oluşturma

Bu bölümde, sensörler ve yürütücüler gibi Airflow bileşenlerini kullanarak zaman kazanmayı; ayrıca Airflow iş akışlarını izlemeyi ve sorun gidermeyi öğreneceksin.

İzleme, Uyarılar ve Geri Çağrılar

Bir geri çağırma (callback) fonksiyonu uygulama

Bir SmtpNotifier Uygulama

Günlüklerde ne var?

Jinja ile Şablonlama

Jinja ile yazma

Yerine koyma

Airflow Değişkenleri

Yanıt: Variable

Python'da bir variable okuma

Değişkenler tam tutmuyor

Airflow'da hata ayıklama ve sorun giderme

Dag sorun giderme

from airflow.sdk import dag, task
#from airflow.providers.standard.sensors.filesystem import FileSensor
from pendulum import datetime

@dag(
    dag_id="execute_report",
    schedule="0 0 * * *",
    start_date=datetime(2026, 3, 20),
)
def execute_report():

    check_for_datafile = FileSensor(
        task_id="check_for_datafile",
        filepath="salesdata_ready.csv",
        mode="poke",
    )

    @task()
    def generate_report():
        print("Generating report...")

    check_for_datafile >> generate_report()

execute_report()

from airflow.sdk import dag, task
from pendulum import datetime

@dag(
    dag_id="sample_dag",
    schedule="0 0 * * *",
    start_date=datetime(2023, 2, 20),
)
def sample_dag():

    @task()
    def sample():
        print("Running sample task...")

    sample()

sample_dag()

from airflow.sdk import dag, task
from airflow.providers.standard.sensors.filesystem import FileSensor
from pendulum import datetime

@dag(
    dag_id="execute_report",
    schedule="0 0 * * *",
    start_date=datetime(2026, 3, 20),
)
def execute_report():

    check_for_datafile = FileSensor(
        task_id="check_for_datafile",
        filepath="salesdata_ready.csv",
        mode="poke",
    )

    @task()
    def generate_report():
        print("Generating report...")

    check_for_datafile >> generate_report()

execute_report()

Eksik Dag

Airflow iş akışlarını sürdürme ve izleme

Hepsini bir araya getir. Bu son bölümde, öğrendiklerinin tümünü uygulayarak Airflow’da üretim kalitesinde bir iş akışı oluşturacaksın.

Tetikleyiciler ve Hata Toleransı

Bir Trigger Rule Uygulamak

Yeniden denemeler ekleme

Bir alt Dag'i tetikleme

Dallanma

Bir @task.branch tanımla

Dallanma sorun giderme

HITL Operatorü

İnsan onayı ekleme

ApprovalOperator Görevi

Üretim hattı oluşturma

Satış ETL veri hattını kurma

Aylık dallanma ekleme

İnsan onayı adımı ekleme

Tebrikler!

Dag Mantığını Kontrol Etme

Şimdi Apache Airflow 3.1.6 ile güncel - Veriyi bir takvime bağlı olarak teslim etmek çoğu zaman manuel bir süreçtir. Betikler yazarsın, karmaşık cron görevleri eklersin ve sürekli değişen gereksinimleri karşılamak için farklı yollar denersin—ekip arkadaşlarınla çalışırken her şeyi yönetmek daha da zorlaşır. Apache Airflow, iş akışlarına zamanlama, hata yönetimi ve raporlama ekleyerek bu zahmeti ortadan kaldırabilir. Bu kursta, Apache Airflow’un temellerinde ustalaşacak ve üretimde karmaşık veri mühendisliği hatlarını nasıl uygulayacağını öğreneceksin. Ayrıca Yönlendirilmiş Çevrimsiz Grafikler (Dag’ler) kullanmayı, veri mühendisliği iş akışlarını otomatikleştirmeyi ve veri mühendisliği görevlerini kolay ve tekrar edilebilir bir şekilde uygulamayı öğreneceksin—böylece akıl sağlığını korumana yardımcı olacak.

Intermediate Python

Introduction to Shell

Airflow ve Airflow DAG'leri ile Python'da veri mühendisliği iş akışlarını planlayıp uygulayın.

Python ile Apache Airflow’a Giriş

Veri mühendisliği iş akışlarını nasıl uygulayacağınızı ve planlayacağınızı öğrenin.

Airflow Fundamentals

Veri Mühendisi Python'da

Yanıt: Variable

Python ile Apache Airflow’a Giriş

Uygulamalı etkileşimli egzersiz