你已經看到資料可以用分批處理(將多筆紀錄分組,在固定時間處理)或串流處理(每筆紀錄立即送出)。
你能正確將下列動作分類為分批或串流嗎?
有些題目有點刁鑽,可能要多想一下!第一次沒答對也別擔心。重點是弄清楚分批與串流的差異。如果答錯了,記得閱讀左下角的橘色回饋訊息,了解原因!
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
在本章中,你會學到什麼是資料工程,以及為何對資料工程師的需求正在上升。接著你將了解資料工程在資料科學生命週期中的位置、資料工程師與資料科學家的差異,並認識你的第一個完整資料管線。
現在來談談資料儲存——這是資料工程師的一項主要職責。在本章中,你會學到資料工程師如何管理不同的資料結構、使用 SQL(查詢與儲存資料的首選程式語言),以及如何用資料湖與資料倉儲實作合適的資料儲存解決方案。
資料工程師會在不同步驟使用各種處理技術,將原始資料整理好,讓資料科學家更容易分析。這些步驟需要組合成管線,這時就會用到自動化。最後,資料工程師會運用平行運算與雲端運算,讓管線持續順暢運作。
當前練習