カラムチェックは不正な値を検出できますが、ロード処理が行を1件も挿入せずに終わっていた場合は検知できません。テーブルレベルのチェックを追加することで、この盲点を補えます。各ロード後にテーブル全体の行数などのプロパティを検証する仕組みです。
SQLTableCheckOperator はすでにインポートされています。
SQLTableCheckOperator
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
まず Airflow のコンポーネントを理解し、TaskFlow API を使って最初の DAG を作成します。さらに、XCom を使ったタスク間のデータ受け渡し方法を学びます。
次に、動的タスクマッピングによる並列タスク実行、アセットを活用したデータ駆動型の DAG スケジューリング、そして人による承認ステップの追加方法を学びます。
このチャプターでは、リトライとコールバックによる障害対応、リソースを節約するための遅延可能センサー、そして DAG を 3 つのレベルでテストする方法を学びます。
最終チャプターでは、DuckDB 上に SQL ETL パイプラインを構築し、アセットパーティションを使ったパーティション対応スケジューリングを追加して、データ品質チェックを組み込みます。
現在の演習