НачатьНачать бесплатно

Processing multiple endpoints with expand

Your team pulls data from multiple API endpoints that change over time, and hardcoding a separate task for each one means editing the Dag every time an endpoint is added or removed. In this exercise, you'll turn that rigid pipeline into a data-driven one: with expand(), Airflow reads the list of endpoints at runtime and spins up one task instance per item, so the pipeline automatically adjusts as the number of endpoints changes.

Это упражнение является частью курса

Building Data Pipelines with Airflow

Посмотреть курс

Практическое интерактивное упражнение

Превратите теорию в практику с помощью одного из наших интерактивных упражнений

Начать упражнение