2012 年，IBM 指出，全球 90% 的資料都是在過去 2 年內產生的。同一年，全球數位資料量首度超過 1 ZB（10 億 TB）。到了 2020 年，預計會達到 44 ZB。這個巨量資料時代，催生了兩個新角色：資料工程師與資料科學家。你剛剛已經學過這兩個角色之間的差異。
來做個快速檢核：以下哪一個選項為真？
本練習屬於課程
將理論付諸實踐，立即體驗我們的互動練習
在本章中，你會學到什麼是資料工程，以及為何對資料工程師的需求正在上升。接著你將了解資料工程在資料科學生命週期中的位置、資料工程師與資料科學家的差異，並認識你的第一個完整資料管線。
當前練習
現在來談談資料儲存——這是資料工程師的一項主要職責。在本章中，你會學到資料工程師如何管理不同的資料結構、使用 SQL（查詢與儲存資料的首選程式語言），以及如何用資料湖與資料倉儲實作合適的資料儲存解決方案。
資料工程師會在不同步驟使用各種處理技術，將原始資料整理好，讓資料科學家更容易分析。這些步驟需要組合成管線，這時就會用到自動化。最後，資料工程師會運用平行運算與雲端運算，讓管線持續順暢運作。
