Master Snowflake's data ingestion pipeline — from staging files through COPY INTO, Snowpipe, and Snowpipe Streaming — and connect Snowflake to the broader data ecosystem through connectors, drivers, and export tools.

Stages, File Formats, and COPY INTO

Classifying Stage Types

COPY INTO Error Handling

Snowpipe and Snowpipe Streaming

Choosing the Right Ingestion Mechanism

Ingestion Method Characteristics

Data Unloading and Connectivity

Unloading Data to Cloud Storage

Connectivity Mechanisms

Data Loading, Ingestion, and Connectivity

Build robust data pipelines using Snowflake-native orchestration — streams for change capture, tasks for scheduling, dynamic tables for declarative transformation, and external and Iceberg tables for open-format storage.

Streams und Change Data Capture

Einen Stream abfragen

Den richtigen Stream-Typ wählen

Tasks und DAG-Orchestrierung

Task-Planung und Abhängigkeiten

Optionen

Warehouse-basierte Task

Serverless-Task

Warehouse-basierte vs. Serverless-Tasks

Dynamische Tabellen

Dynamic Table TARGET_LAG und Refresh

Streams + Tasks

Dynamic Tables

Beides möglich

Das richtige Orchestrierungsverfahren wählen

Eine End-to-End-Pipeline entwerfen

External- und Iceberg-Tabellen

Wann du External Tables verwenden solltest

Native Snowflake-Tabelle

Externe Tabelle

Iceberg-Tabelle

Tabellentypen nach Speicher und Engine

Pipeline Orchestration and Data Objects

Query semi-structured JSON with dot notation and FLATTEN, aggregate data with GROUPING SETS, ROLLUP, and CUBE, compute window functions, and encapsulate reusable logic in UDFs and stored procedures.

Semi-Structured Data Querying

Extracting Nested Fields

Unnesting JSON Arrays

Intermediate Aggregate Functions

Writing a ROLLUP Query

Choosing the Right Grouping Extension

Window Functions

Ranking Records with ROW_NUMBER

RANK vs DENSE_RANK

Period-over-Period Change with LAG

Running totals with SUM

User-Defined Functions and Stored Procedures

Creating and Calling a SQL UDF

UDF vs Stored Procedure

Querying and Transforming Data

Profile queries in Snowsight, identify bottlenecks with QUERY_HISTORY, apply Search Optimization, Query Acceleration Service, Automatic Clustering, and Materialized Views, and write SQL that benefits from Snowflake's three caching layers.

Query Profile,  History, and Insights

Navigating Query Profile

Identifying  queries with QUERY_HISTORY

Investigating slow queries

Optimization Methods

Matching Optimization Tools to Query Patterns

Choosing Between Optimization Tools

What Method Works Best

How Caching Works in Snowflake

Identifying the Caching Layer

SQL Patterns: Cache vs Pruning

Congratulations!

Query Performance and Optimization

18:05Claude responded: Erstelle End-to-End-Datenpipelines in Snowflake. Erstelle End-to-End-Datenpipelines in Snowflake. Lerne, Daten mit COPY INTO, Snowpipe und Snowpipe Streaming zu laden, und automatisiere Workflows mit Streams, Tasks und Dynamic Tables. Außerdem lernst du, halbstrukturierte Daten abzufragen, Window-Funktionen anzuwenden und die Abfrageleistung mit den Profiling-Tools und Caching-Ebenen von Snowflake zu optimieren.

Beherrschen Sie die Tools und Techniken zum Aufbau zuverlässiger, automatisierter Daten-Pipelines in Snowflake. Du lernst zunächst, wie du Daten in großem Umfang aufnimmst — indem du Stages und Dateiformate konfigurierst, Daten mit COPY INTO lädst und je nach Latenz- und Volumenanforderungen zwischen Batch-Loading, Snowpipe und Snowpipe Streaming wählst.
Von dort aus baust du End-to-End-Fähigkeiten in der Pipeline-Orchestrierung auf: Zeilenänderungen mit Streams erfassen, mehrstufige Workflows mit Task-DAGs verketten und deklarative, automatisch aktualisierte Pipelines mit dynamischen Tabellen erstellen. Außerdem lernst du, wann du für Multi-Engine- und Cloud-native-Szenarien auf externe und Iceberg-Tabellen zurückgreifen solltest.
Die zweite Hälfte des Kurses schärft Ihre Abfrage- und Transformationsfähigkeiten — indem Sie halbstrukturierte JSON-Daten aus VARIANT-Spalten extrahieren und entnesten, Gruppierungserweiterungen und Window-Funktionen für fortgeschrittene Analysen anwenden und wiederverwendbare Logik in UDFs und gespeicherten Prozeduren kapseln.
Schließlich befassen Sie sich mit der Abfrageleistung: Sie lesen das Query Profile von Snowflake, um Engpässe zu identifizieren, wählen das richtige Optimierungstool – Search Optimization, Query Acceleration Service, Clustering-Keys oder materialisierte Views – und schreiben cachefreundliches SQL, das die häufigen Anti-Patterns vermeidet, die die Leistung unbemerkt verschlechtern.

Laden, automatisieren und optimieren Sie Datenpipelines in Snowflake mit COPY INTO, Snowpipe und Streams.

Automatisierung von Datenpipelines in Snowflake

Datenpipelines in Snowflake mit COPY INTO, Snowpipe, Streams, Tasks, dynamischen Tabellen und Tools zur Abfrageleistung laden, automatisieren und optimieren.

Essentials for Snowflake SnowPro® Core Certification

Daten in von Snowflake verwalteten Micro-Partitionen gespeichert, mit vollständigem Partition Pruning

Voller Lese-/Schreibzugriff über SQL; Snowflake verwaltet Komprimierung und Clustering

Daten verbleiben im Cloud-Objektspeicher; Snowflake liest die Dateien zur Abfragezeit

Abfrageleistung hängt von Partitionsspalten ab, die aus der Dateipfad-Struktur abgeleitet sind

Als Parquet-Dateien mit einer Metadaten-Ebene gespeichert; ohne Konvertierung lesbar durch Spark, Flink und Trino

Daten sind nicht an eine einzelne Abfrage-Engine gebunden

Tabellentypen nach Speicher und Engine

Automatisierung von Datenpipelines in Snowflake

Interaktive Übung