In this chapter, you’ll learn what data engineering is and why demand for them is increasing. You’ll then discover where data engineering sits in relation to the data science lifecycle, how data engineers differ from data scientists, and have an introduction to your first complete data pipeline.

Data engineering and big data

Go with the flow

Not responsible

Big time

Data engineers vs. data scientists

Tell me the truth

Who is it

The data pipeline

It's not true

Pipeline

What is data engineering?

It’s time to talk about data storage—one of the main responsibilities for a data engineer. In this chapter, you’ll learn how data engineers manage different data structures, work in SQL—the programming language of choice for querying and storing data, and implement appropriate data storage solutions with data lakes and data warehouses.

Struktur data

Struktur

Pilihan

Terstruktur

Semi-terstruktur

Tidak terstruktur

Apa bedanya

Basis data SQL

We can work it out

Kolom

Opsi

Data engineer

Data scientist

Jenis yang berbeda

Gudang data dan danau data

Katakan yang benar

Sebuah data lake

Sebuah data warehouse

Gudang kami (di tengah jalan kami)

Storing data

Data engineers make life easy for data scientists by preparing raw data for analysis using different processing techniques at different steps. These steps need to be combined to create pipelines, which is when automation comes into play. Finally, data engineers use parallel and cloud computing to keep pipelines flowing smoothly.

Processing data

Connect the dots

Scheduling data

Schedules

One or the other

Parallel computing

Whenever, whenever

Parallel universe

Cloud computing

Obscured by clouds

Somewhere I belong

We are the champions

Moving and processing data

Lexicon

Course Glossary: Understanding Data Engineering

Pada 2019, rata-rata gaji untuk data engineer melampaui data scientist. Bagaimana ini bisa terjadi? Perusahaan yang ingin menemukan “emas” dalam data mereka menyadari hal itu mustahil jika “tambangnya” belum dibangun. Data engineer meletakkan fondasi yang membuat data science menjadi mungkin.
<br /> <br />
Di kursus ini, Anda akan mempelajari tanggung jawab inti seorang data engineer, bagaimana mereka berbeda dari data scientist, dan bagaimana mereka memfasilitasi aliran data di dalam organisasi. Melalui latihan praktik, Anda akan mengikuti Spotflix, perusahaan fiksi layanan streaming musik, untuk memahami bagaimana data engineer mereka mengumpulkan, membersihkan, dan mengkatalogkan data. Di akhir kursus, Anda akan memahami apa yang dilakukan data engineer di perusahaan Anda, siap untuk berdiskusi dengan seorang data engineer, dan memiliki fondasi kuat untuk memulai perjalanan Anda sendiri sebagai data engineer.

Video menyertakan transkrip langsung yang dapat diakses dengan mengklik "Show transcript" di kiri bawah video.

Glosarium kursus dapat ditemukan di sebelah kanan pada bagian sumber daya.

Untuk memperoleh kredit CPE, Anda perlu menyelesaikan kursus dan mencapai skor 70% pada asesmen yang memenuhi syarat. Anda dapat menuju ke asesmen dengan mengklik callout kredit CPE di sebelah kanan.

<h2> Memahami Dasar-Dasar Teknik Data </h2>
<br>
Dalam kursus ini, Anda akan mempelajari tanggung jawab utama seorang insinyur data, perbedaan antara insinyur data dan ilmuwan data, serta cara memfasilitasi aliran data di dalam suatu organisasi. Melalui latihan praktis, Anda akan mengikuti Spotflix, sebuah perusahaan streaming musik fiktif, untuk memahami bagaimana insinyur data mereka mengumpulkan, membersihkan, dan mengklasifikasikan data mereka. 
<br><br>
<h2> Ajukan dalam Kasus Pribadi</h2>
<br>
Pada akhir kursus ini, Anda akan memahami apa yang dilakukan oleh insinyur data di perusahaan Anda, siap untuk berdiskusi dengan insinyur data, dan memiliki dasar yang kokoh untuk memulai perjalanan Anda sebagai insinyur data.

Temukan bagaimana insinyur data membangun dasar untuk ilmu data. Tanpa pemrograman!

Memahami Data Engineering

Associate Data Engineer dalam SQL

Analis Data di Databricks

Memahami Topik Data

Berkaitan dengan data dalam format tabel.

Mengikuti sebuah model sambil memberikan fleksibilitas lebih dibanding data terstruktur.

Apa bedanya

Memahami Data Engineering

Latihan interaktif praktis