Apprenez à garantir la qualité des données avec des techniques d'essais avancées dans dbt. Explorez les essais intégrés, singuliers et réutilisables pour valider les modèles, les sources et les graines. Comprenez comment définir des essais personnalisés avec Jinja, résoudre les défaillances et optimiser votre flux de validation pour repérer les incohérences avant qu'elles n'affectent les analyses en aval.

Introduction aux tests dans dbt

Options

Intégrés

Non intégrés

Tests intégrés

nyc_yellow_taxi:
  outputs:
    dev:
      type: duckdb
      path: dbt.duckdb
  target: dev



# Name your project! Project names should contain only lowercase characters
# and underscores. A good package name should reflect your organization's
# name or the intended use of these models
name: 'taxi_project'
version: '1.0.0'
config-version: 2

# This setting configures which "profile" dbt uses for this project.
profile: 'nyc_yellow_taxi'

# These configurations specify where dbt should look for different types of files.
# The `model-paths` config, for example, states that models in this project can be
# found in the "models/" directory. You probably won't need to change these!
model-paths: ["models"]
analysis-paths: ["analyses"]
test-paths: ["tests"]
seed-paths: ["seeds"]
macro-paths: ["macros"]
snapshot-paths: ["snapshots"]

target-path: "target"  # directory which will store compiled SQL files
clean-targets:         # directories to be removed by `dbt clean`
  - "target"
  - "dbt_packages"


# Configuring models
# Full documentation: https://docs.getdbt.com/docs/configuring-models

# In this example config, we tell dbt to build all models in the example/
# directory as views. These settings can be overridden in the individual model
# files using the `{{ config(...) }}` macro.
models:
  nyc_yellow_taxi:
  # Config indicated by + and applies to all files under models/example/
    taxi_rides:
    +materialized: view


{{ config(materialized='view')}}


with source_data as (
    select * from read_parquet('yellow_tripdata_2023-01-partial.parquet')
)

select * from source_data


version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: fare_amount
      tests:
        - not_null
    # Enter the name of the column
    - name: ____
    # Define the two tests
      tests:
        - ____
        - ____
            ____: [1, 2, 3, ____]


Run the following commands in the terminal:
  
dbt run
dbt test

version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: fare_amount
      tests:
        - not_null
    # Enter the name of the column
    - name: payment_type
    # Define the two tests
      tests:
        - not_null
        - accepted_values:
            values: [1, 2, 3, 4, 5, 6] 


Définir des tests sur un modèle

{{ config(materialized='view')}}


with source_data as (
    select * from read_parquet('yellow_tripdata_2023-01-partial.parquet')
)

-- Add a filter / WHERE clause to the line below
select * from source_data ____


version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: fare_amount
      tests:
        - not_null
    - name: payment_type
      tests:
        - not_null
        - accepted_values:
            values: [1, 2, 3, 4, 5, 6]


Run the following commands in the terminal:
  
dbt run

{{ config(materialized='view')}}


with source_data as (
    select * from read_parquet('yellow_tripdata_2023-01-partial.parquet')
)

-- Add a filter / WHERE clause to the line below
select * from source_data where payment_type != 0


Run the following command in the terminal:
  
dbt run

Repérer les données problématiques

Créer des tests singuliers

Processus de développement d'un test singulier

Étapes pour créer un test singulier

select * 
from taxi_rides_raw
-- Complete the test on the following line


Run the following command in the terminal:
  
dbt test --select assert_trip_duration_gt_0.sql

select * 
from taxi_rides_raw
-- Complete the test on the following line
where tpep_pickup_datetime = tpep_dropoff_datetime


The appropriate filter has been added to assert_trip_duration_gt_0.sql

Run the following command in the terminal:
  
dbt test --select assert_trip_duration_gt_0.sql

Vérifier la durée du trajet

Requête de test valide

Requête de test invalide

Vérifier les requêtes de test

Créer des tests personnalisés réutilisables

Réutilisable

Singulier

Tests, tests, tests

version: 2

# Replace any entry of ____ with the appropriate content
models:
- name: taxi_rides_raw
  columns:
    - name: fare_amount
      tests:
        - ____
    - name: ____
      tests:
        - check_gt_0
        


{% test ____(model, column_name) %}
select * 
from {{ model }}
where {{ column_name }} <= 0
{% endtest %}



version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: fare_amount
      tests:
        - check_gt_0
    - name: total_amount
      tests:
        - check_gt_0


{% test check_gt_0(model, column_name) %}
select * 
from {{ model }}
where {{ column_name }} <= 0
{% endtest %}


- Update the check_gt_0.sql file as shown in the solution. (Note, the last character is a zero)
- Update the model_properties.yml file as shown.
- Run dbt run in the terminal window
- Run dbt test --select taxi_rides_raw or dbt test --select taxi_rides_raw.sql in the terminal window

Mettre en place un test réutilisable

version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: tpep_pickup_datetime
      tests:
        - ____:
            ____: ____


select * 
from taxi_rides_raw
where tpep_pickup_datetime = tpep_dropoff_datetime


{% test ____(model, column_name, column_name2) %}
select *
from {{ model }}
____
{% endtest %}


version: 2

models:
- name: taxi_rides_raw
  columns:
    - name: tpep_pickup_datetime
      tests:
        - columns_equal:
            column_name2: tpep_dropoff_datetime


{% test columns_equal(model, column_name, column_name2) %}
select *
from {{ model }}
where {{ column_name }} = {{ column_name2 }}
{% endtest %}


- Edit the columns_equal.sql file as shown.
- Edit the model_properties.yml file as shown.
- Run dbt run in the terminal.
- Run dbt test --select taxi_rides_raw.sql or dbt test --select taxi_rides_raw in the terminal.

Passer d'un test singulier à un test réutilisable

Essais et documentation

Faites passer vos compétences dbt au niveau supérieur en mettant en place des flux de production évolutifs et prêts pour la mise en service. Découvrez comment utiliser les sources et les graines dbt pour améliorer la lignée des données, mettre en œuvre des instantanés pour suivre les changements historiques et automatiser vos transformations avec dbt build. À la fin, vous serez en mesure de gérer avec assurance des pipelines de données à grande échelle.

Sources dbt

Modèles, sources ou les deux?

Ajouter une source

Graines dbt

Noyaux de vérité

ZIP est le code

SCD2 avec les instantanés dbt (ancien)

Processus d'instantané

Problème de snapshot

Ajouter un instantané

Automatisation avec dbt build

Qu'est-ce que dbt build ne peut pas faire?

Donner un coup de main au stagiaire !

Mettre le tout ensemble

Mettre dbt en production

Perfectionnez vos compétences dbt avec ce cours pratique conçu pour les ingénieurs de données et les professionnels en analytique. Vous explorerez des fonctionnalités avancées de dbt, dont des stratégies d'essais personnalisées, des essais réutilisables, des sources, des graines (seeds) et des instantanés (snapshots) pour suivre l'historique des changements. Apprenez à automatiser des pipelines dbt avec dbt build afin d'assurer des transformations fiables et efficaces en environnement de production. Grâce à des exercices interactifs et à des scénarios concrets, vous développerez la confiance nécessaire pour déployer dbt dans des flux de données à grande échelle.

<h2>Maîtrisez les flux de travail dbt</h2>
<p>Passez à la vitesse supérieure avec vos compétences dbt et apprenez à mettre en œuvre des flux de transformation de données robustes et évolutifs dans un environnement de production. Ce cours est conçu pour les ingénieurs de données, les analystes et les ingénieurs en analytique qui souhaitent aller au-delà des bases et acquérir une expérience pratique des fonctionnalités avancées de dbt.</p>

<h2>Assurez la qualité des données grâce à des tests avancés</h2>
<p>La création de pipelines de données fiables commence par la validation. Vous explorerez des techniques de test avancées pour détecter les incohérences de données, créer des tests personnalisés réutilisables afin de standardiser la validation entre les modèles, et appliquer des tests aux sources et aux seeds pour une meilleure gouvernance et un meilleur suivi de la lignée des données.</p>

<h2>Tirez parti des sources, des seeds et des snapshots dbt</h2>
<p>Découvrez comment les sources dbt peuvent améliorer la documentation et la lignée des données tout en assurant la traçabilité des données brutes. Apprenez à utiliser les seeds dbt pour gérer efficacement de petits ensembles de données statiques. Puis, maîtrisez les dimensions à évolution lente (SCD2) avec les snapshots dbt, ce qui vous permet de suivre les changements historiques dans votre entrepôt de données avec un minimum d’efforts.</p>

<h2>Automatisez et optimisez avec dbt Build</h2>
<p>L’efficacité est essentielle dans les environnements de production. Vous apprendrez à rationaliser les flux de travail avec dbt build, en automatisant l’exécution des modèles, les tests et les instantanés afin d’assurer des transformations fiables. En optimisant votre pipeline, vous améliorerez les performances, la maintenabilité et l’évolutivité de vos projets dbt.</p>

<h2>Appliquez vos compétences dans des scénarios réels</h2>
<p>Grâce à des exercices interactifs et à de la pratique concrète, vous consoliderez vos connaissances et gagnerez la confiance nécessaire pour appliquer dbt dans des contextes réels. À la fin du cours, vous serez en mesure de concevoir, de tester et d’automatiser des flux de travail dbt prêts pour la production, en assurant des transformations de haute qualité et bien documentées à grande échelle.</p>


Introduction to dbt

Améliorez vos compétences dbt avec ce cours pratique pour ingénieurs de données et analystes.

dbt intermédiaire

Passez au niveau supérieur avec dbt grâce à ce cours pratique conçu pour les ingénieurs de données et les professionnels de l’analytique.

Définir des tests sur un modèle

dbt intermédiaire

Exercice interactif pratique