ローカル環境で動くパイプラインは、出発点に過ぎません。本番環境では、新たに3つの課題が加わります。コードのビルドとデプロイ、インフラの安定稼働、そしてパイプラインの稼働後の監視です。この3つの柱は、Astro のプラットフォーム構成にも反映されています。
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
まず Airflow のコンポーネントを理解し、TaskFlow API を使って最初の DAG を作成します。さらに、XCom を使ったタスク間のデータ受け渡し方法を学びます。
次に、動的タスクマッピングによる並列タスク実行、アセットを活用したデータ駆動型の DAG スケジューリング、そして人による承認ステップの追加方法を学びます。
このチャプターでは、リトライとコールバックによる障害対応、リソースを節約するための遅延可能センサー、そして DAG を 3 つのレベルでテストする方法を学びます。
最終チャプターでは、DuckDB 上に SQL ETL パイプラインを構築し、アセットパーティションを使ったパーティション対応スケジューリングを追加して、データ品質チェックを組み込みます。
現在の演習