Master Snowflake's data ingestion pipeline — from staging files through COPY INTO, Snowpipe, and Snowpipe Streaming — and connect Snowflake to the broader data ecosystem through connectors, drivers, and export tools.

Stage, Format File, dan COPY INTO

Opsi

User Stage (@~)

Table Stage (%table_name)

Named Stage (@stage_name)

Mengklasifikasikan Jenis Stage

Penanganan Error pada COPY INTO

Snowpipe dan Snowpipe Streaming

Memilih Mekanisme Ingest yang Tepat

COPY INTO

Snowpipe

Snowpipe Streaming

Karakteristik Metode Ingesti

Pembongkaran Data dan Konektivitas

Melepaskan Data ke Cloud Storage

Options

Ingestion

Transformation

BI / Reporting

Mekanisme Konektivitas

Data Loading, Ingestion, and Connectivity

Build robust data pipelines using Snowflake-native orchestration — streams for change capture, tasks for scheduling, dynamic tables for declarative transformation, and external and Iceberg tables for open-format storage.

Streams and Change Data Capture

Querying a Stream

Choosing the Right Stream Type

Tasks and DAG Orchestration

Task Scheduling and Dependencies

Warehouse-Based vs Serverless Tasks

Dynamic Tables

Dynamic Table TARGET_LAG and Refresh

Choosing Your Orchestration Mechanism

Designing an End-to-End Pipeline

External and Iceberg Tables

When to Use External Tables

Table Types by Storage and Engine

Pipeline Orchestration and Data Objects

Query semi-structured JSON with dot notation and FLATTEN, aggregate data with GROUPING SETS, ROLLUP, and CUBE, compute window functions, and encapsulate reusable logic in UDFs and stored procedures.

Semi-Structured Data Querying

Extracting Nested Fields

Unnesting JSON Arrays

Intermediate Aggregate Functions

Writing a ROLLUP Query

Choosing the Right Grouping Extension

Window Functions

Ranking Records with ROW_NUMBER

RANK vs DENSE_RANK

Period-over-Period Change with LAG

Running totals with SUM

User-Defined Functions and Stored Procedures

Creating and Calling a SQL UDF

UDF vs Stored Procedure

Querying and Transforming Data

Profile queries in Snowsight, identify bottlenecks with QUERY_HISTORY, apply Search Optimization, Query Acceleration Service, Automatic Clustering, and Materialized Views, and write SQL that benefits from Snowflake's three caching layers.

Query Profile,  History, and Insights

Navigating Query Profile

Identifying  queries with QUERY_HISTORY

Investigating slow queries

Optimization Methods

Matching Optimization Tools to Query Patterns

Choosing Between Optimization Tools

What Method Works Best

How Caching Works in Snowflake

Identifying the Caching Layer

SQL Patterns: Cache vs Pruning

Congratulations!

Query Performance and Optimization

Bangun pipeline data ujung ke ujung di Snowflake. Pelajari cara mengimpor data menggunakan COPY INTO, Snowpipe, dan Snowpipe Streaming, lalu otomatisasikan alur kerja dengan streams, tasks, dan dynamic tables. Anda juga akan menguasai kueri data semi-terstruktur, menerapkan window functions, dan mengoptimalkan kinerja kueri menggunakan alat pemprofilan serta lapisan cache Snowflake.

Kuasai alat dan teknik untuk membangun pipeline data yang andal dan otomatis di Snowflake. Anda akan mulai dengan mempelajari cara mengingest data dalam skala besar — mengonfigurasi stage dan format file, memuat data dengan COPY INTO, serta memilih antara batch loading, Snowpipe, dan Snowpipe Streaming untuk berbagai kebutuhan latensi dan volume.
Dari sana, Anda akan membangun keterampilan orkestrasi pipeline end-to-end: menangkap perubahan tingkat baris dengan stream, merangkai alur kerja multi-langkah dengan DAG tugas, dan membuat pipeline deklaratif yang diperbarui otomatis dengan dynamic tables. Anda juga akan mempelajari kapan harus menggunakan tabel eksternal dan Iceberg untuk skenario multi-engine dan cloud-native.
Paruh kedua kursus ini mempertajam keterampilan kueri dan transformasi Anda — mengekstrak dan meng-unnest JSON semi-terstruktur dari kolom VARIANT, menerapkan ekstensi pengelompokan dan fungsi window untuk analitik lanjutan, serta mengenkapsulasi logika yang dapat digunakan kembali dalam UDF dan stored procedure.
Akhirnya, Anda akan menangani performa query: membaca Query Profile Snowflake untuk mengidentifikasi hambatan, memilih alat optimasi yang tepat — Search Optimization, Query Acceleration Service, clustering keys, atau materialized views — dan menulis SQL yang ramah cache yang menghindari anti-pola umum yang diam-diam menurunkan performa.

Muat, otomatisasi, dan optimalkan pipeline data di Snowflake dengan COPY INTO, Snowpipe, stream, dan tugas.

Otomatisasi Pipeline Data di Snowflake

Muat, otomatisasi, dan optimalkan pipeline data di Snowflake menggunakan COPY INTO, Snowpipe, streams, tasks, dynamic tables, dan alat performa kueri.

Pembongkaran Data dan Konektivitas

Create Your Free Account