パイプライン内の一部の注文に負の revenue 値が含まれており、daily_summary テーブルの集計結果が正しくなっていることが判明しました。データが下流の利用者に届く前に、この問題を検出する品質ゲートを設ける必要があります。
daily_summary
負の revenue を持つ行を正しく検出するアプローチはどれですか?
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
まず Airflow のコンポーネントを理解し、TaskFlow API を使って最初の DAG を作成します。さらに、XCom を使ったタスク間のデータ受け渡し方法を学びます。
次に、動的タスクマッピングによる並列タスク実行、アセットを活用したデータ駆動型の DAG スケジューリング、そして人による承認ステップの追加方法を学びます。
このチャプターでは、リトライとコールバックによる障害対応、リソースを節約するための遅延可能センサー、そして DAG を 3 つのレベルでテストする方法を学びます。
最終チャプターでは、DuckDB 上に SQL ETL パイプラインを構築し、アセットパーティションを使ったパーティション対応スケジューリングを追加して、データ品質チェックを組み込みます。
現在の演習