DAG'i Tanımlama
Önceki egzersizlerde, çıkarma, dönüştürme ve yükleme aşamalarını ayrı ayrı tamamladın. Şimdi bunların hepsi, konsolda inceleyebileceğin düzenli bir etl() fonksiyonunda bir araya getirildi.
etl() fonksiyonu ilgili veritabanlarından ham kurs ve puanlama verilerini çıkarır, bozuk verileri temizler ve eksik değerleri doldurur, kurs başına ortalama puanı hesaplar ve öneri üretme kurallarına göre öneriler oluşturur ve son olarak bu önerileri bir veritabanına yükler.
Videodan hatırlayacağın üzere, etl() tek bir argüman alır: db_engines. Hem etl hem de db_engines çalışma alanında mevcut, dolayısıyla tanımlayacağın görev sadece birini diğeriyle çağırmalı.
Bu egzersiz, kursun bir parçasıdır
Data Engineering'e Giriş
Egzersiz talimatları
- DAG tanımını günlük çalışacak şekilde tamamla. Cron gösterimini kullandığından emin ol.
- Görevi tamamlayarak
etl()fonksiyonunu veritabanı motorlarıyla çağır.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Define the DAG so it runs on a daily basis
@dag(dag_id="recommendations",
start_date=datetime(2024, 1, 1),
schedule="____")
def recommendations():
# Make sure the task calls etl() with the database engines
@task(task_id="recommendations_task")
def recommendations_task():
____(____)
recommendations_task()
# Run the DAG
recommendations()