Zjisti, proč dbt vlastně vzniklo a jak se používá k vytváření projektů pro transformaci dat.

Základy dbt

Spuštění příkazu dbt

Seznámení s dbt

Verze dbt

Nápověda

Uživatelé dbt

Vytvoření dbt projektu

Inicializace dbt projektu

Vytvoření profilu projektu

Vítej v dbt

Ponořte se do samé podstaty dbt – budeš pracovat s datovými modely a vytvářet SQL modely přímo v dbt. Naučíš se základy SQL modelů, definovat závislosti, aktualizovat modely a řešit různé problémy.

Práce s prvním projektem

Pracovní postup v dbt projektu

Spuštění projektu

Co je dbt model?

Vlastnosti datového modelu

Vytvoření dbt modelu

Aktualizace dbt modelů

Konfigurační soubory

Aktualizace dbt modelu

Projekty a modely v dbt

Naučíš se používat Jinja šablony pro zjednodušení dbt modelů a definovat hierarchické závislosti pomocí funkce `ref`, která zajistí správné pořadí spouštění modelů.

Vytváření a generování dbt dokumentace

Možnosti příkazu dbt docs

Proces tvorby dbt dokumentace

Postup tvorby dbt dokumentace

nyc_yellow_taxi:
  outputs:
    dev:
      type: duckdb
      path: dbt.duckdb
  target: dev



# Name your project! Project names should contain only lowercase characters
# and underscores. A good package name should reflect your organization's
# name or the intended use of these models
name: 'taxi_project'
version: '1.0.0'
config-version: 2

# This setting configures which "profile" dbt uses for this project.
profile: 'nyc_yellow_taxi'

# These configurations specify where dbt should look for different types of files.
# The `model-paths` config, for example, states that models in this project can be
# found in the "models/" directory. You probably won't need to change these!
model-paths: ["models"]
analysis-paths: ["analyses"]
test-paths: ["tests"]
seed-paths: ["seeds"]
macro-paths: ["macros"]
snapshot-paths: ["snapshots"]

target-path: "target"  # directory which will store compiled SQL files
clean-targets:         # directories to be removed by `dbt clean`
  - "target"
  - "dbt_packages"


# Configuring models
# Full documentation: https://docs.getdbt.com/docs/configuring-models

# In this example config, we tell dbt to build all models in the example/
# directory as views. These settings can be overridden in the individual model
# files using the `{{ config(...) }}` macro.
models:
  nyc_yellow_taxi:
  # Config indicated by + and applies to all files under models/example/
    taxi_rides:
    +materialized: view


{{ config(materialized='view')}}


with source_data as (
    select * from read_parquet('yellow_tripdata_2023-01-partial.parquet')
)

select * from source_data


version: 2

models:
  - name: taxi_rides_raw
    description: ____
    access: public


Run the following commands in the terminal:

dbt docs generate
dbt docs serve

version: 2

models:
  - name: taxi_rides_raw
    description: Initial import of the NYC Yellow Taxi trip data from Parquet source
    access: public


Vytvoření dbt dokumentace

Jinja šablony

Co umí Jinja?


# Name your project! Project names should contain only lowercase characters
# and underscores. A good package name should reflect your organization's
# name or the intended use of these models
name: 'nyc_yellow_taxi'
version: '1.0.0'
config-version: 2

# This setting configures which "profile" dbt uses for this project.
profile: 'nyc_yellow_taxi'

# These configurations specify where dbt should look for different types of files.
# The `model-paths` config, for example, states that models in this project can be
# found in the "models/" directory. You probably won't need to change these!
model-paths: ["models"]
analysis-paths: ["analyses"]
test-paths: ["tests"]
seed-paths: ["seeds"]
macro-paths: ["macros"]
snapshot-paths: ["snapshots"]

target-path: "target"  # directory which will store compiled SQL files
clean-targets:         # directories to be removed by `dbt clean`
  - "target"
  - "dbt_packages"


# Configuring models
# Full documentation: https://docs.getdbt.com/docs/configuring-models

# In this example config, we tell dbt to build all models in the example/
# directory as views. These settings can be overridden in the individual model
# files using the `{{ config(...) }}` macro.
#models:
#  nyc_yellow_taxi:
#  # Config indicated by + and applies to all files under models/example/
#    taxi_rides:
#    +materialized: view
    



select * from 'yellow_tripdata_2023-01-partial.parquet'



select
{% for column_name in ['fare_amount', 'tip_amount', 'tolls_amount', 'total_amount'] %}
  {{column_name}}{% if not loop.last %},{% endif %}
{% endfor %}
from taxi_rides_raw
   

Run the following commands in the terminal:
  
  dbt run
  

Zpracování Jinja šablony

Hierarchické modely v dbt

Pořadí vytváření modelů

Hierarchické vytváření modelů


-- Update SQL to use Jinja reference
select 
   date_part('day', tpep_pickup_datetime) as day,
   count(*) as total_riders
-- Update the line below to use a Jinja function
from taxi_rides_raw
where payment_type = 1
group by day


#!/usr/bin/env python3
import duckdb
con = duckdb.connect('dbt.duckdb', read_only=True)
print(con.sql('select * from creditcard_riders_by_day'))
if (con.execute('select * from creditcard_riders_by_day').fetchall()[0][1] == 54743):
  with open('/home/repl/workspace/successful_data_check', 'w') as f:
    f.write('54743')
    


Run the following commands in the terminal:
dbt run
dbt run -f



# Name your project! Project names should contain only lowercase characters
# and underscores. A good package name should reflect your organization's
# name or the intended use of these models
name: 'nyc_yellow_taxi'
version: '1.0.0'
config-version: 2

# This setting configures which "profile" dbt uses for this project.
profile: 'nyc_yellow_taxi'

# These configurations specify where dbt should look for different types of files.
# The `model-paths` config, for example, states that models in this project can be
# found in the "models/" directory. You probably won't need to change these!
model-paths: ["models"]
analysis-paths: ["analyses"]
test-paths: ["tests"]
seed-paths: ["seeds"]
macro-paths: ["macros"]
snapshot-paths: ["snapshots"]

target-path: "target"  # directory which will store compiled SQL files
clean-targets:         # directories to be removed by `dbt clean`
  - "target"
  - "dbt_packages"


# Configuring models
# Full documentation: https://docs.getdbt.com/docs/configuring-models

# In this example config, we tell dbt to build all models in the example/
# directory as views. These settings can be overridden in the individual model
# files using the `{{ config(...) }}` macro.
models:
  nyc_yellow_taxi:
  # Config indicated by + and applies to all files under models/example/
    taxi_rides:
    +materialized: view



-- Update SQL to use Jinja reference
select 
   date_part('day', tpep_pickup_datetime) as day,
   count(*) as total_riders
-- Update the line below to use a Jinja function
from {{ ref('taxi_rides_raw') }}
where payment_type = 1
group by day


Aktualizace hierarchií modelů

Více o modelech v dbt

Tento kurz tě seznámí s dbt (data build tool) – populárním nástrojem, který dal vzniknout analytics engineeringu pro tvorbu a údržbu ELT (extract, transform, and load) pipeline. Naučíš se budovat datové sklady, provádět datové modelování a transformace a navrhovat testy pro ověřování dat. K různým úkolům v dbt budeš používat SQL a příkazy shellu a zároveň zjistíš, jak generovat dokumentaci pro uživatele svého skladu!

dbt, neboli data build tool, vzal svět dat útokem. Tento kurz vás seznámí s koncepty, terminologií a metodami používání dbt k implementaci ukázkového datového skladu. Získáte přehled o tom, co je dbt, kdy by se mělo používat a jaké jsou osvědčené postupy při implementaci datového skladu. Budete pracovat se skutečnými datovými sadami a provádět operace extrakce, načítání a transformace tak, jak se používají v rolích datového analytika, datového inženýra a analytického inženýra.

Účastníci si osvojí dovednosti potřebné k tomu, aby od základů navrhli datový sklad, modelovali a transformovali data a vytvářeli testy! Tento kurz vám poskytne pevný základ, na kterém můžete stavět na své cestě s dbt, bez ohledu na typ datového skladu, který plánujete implementovat. Získejte jistotu v tom, jak a kdy používat dbt, díky procvičování úloh pomocí SQL a shellových příkazů.

Data Warehousing Concepts

Introduction to Shell

Joining Data in SQL

Kurz představuje dbt pro modelování dat, transformace, testování a tvorbu dokumentace.

Úvod do dbt

Kurz představuje dbt pro datové modelování, transformace, testování a tvorbu dokumentace.

Profesionální datový inženýr v Pythonu

Přidej dokumentaci k modelům, testům atd.

Spusť `dbt run` pro vygenerování modelů

Spusť `dbt docs generate` pro vygenerování souborů dokumentace

Zobraz dokumentaci ve webovém prohlížeči

Postup tvorby dbt dokumentace

Úvod do dbt

Interaktivní praktické cvičení