ПочатиПочніть безкоштовно

Парне поєднання вхідних даних за допомогою zip

У вашої команди є конвеєр, що завантажує файли у визначені місця в хмарному сховищі. Колега використовує zip() разом із expand_kwargs() щоб спарити кожен файл із його призначенням у хмарі:

@task
def get_files():
    return ["users.csv", "orders.csv", "products.csv"]

@task
def get_destinations():
    return ["s3://bronze/users/", "s3://bronze/orders/", "s3://bronze/products/"]

@task
def upload(file_to_upload):
    # Simulate uploading a file to cloud storage
    print(f"Uploading {file_to_upload[0]} to {file_to_upload[1]}")

files = get_files()
destinations = get_destinations()
upload.expand(file_to_upload=files.zip(destinations))

Скільки екземплярів upload створить Airflow?

Ця вправа є частиною курсу

Створення конвеєрів даних з Airflow

Переглянути курс

Практична інтерактивна вправа

Перетворіть теорію на практику за допомогою однієї з наших інтерактивних вправ

Почати вправу