在上一個單元,你學到 ML 建置 pipeline,以及它與傳統 DevOps 建置 pipeline 的差異。
不過,「pipeline」是一個非常常見且泛用的術語,用來描述任何自動化的步驟序列,有時候會引發混淆。
例如,你已經看到,雖然名稱很像,模型 pipeline 和模型建置(build)pipeline 是兩個完全不同的東西。
你還記得它們最重要的任務與特性是什麼嗎?
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
本章將從高層次概述 MLOps 的原則與對部署與生命週期至關重要的架構元件。
本章著重於在開發階段就需要考量的各項要點,確保進入營運後能順利推進。 最終目標是說明如何依循 MLOps 的最佳實務訓練模型,並建置能順利部署、可重現且可於部署後進行監控的模型套件。
當前練習
本章將探討關鍵的模型營運問題,例如: - 我們有哪些不同方式可以提供模型服務? - 什麼是 API?它的關鍵功能是什麼? - 在提供給最終使用者前,如何徹底測試我們的服務? - 如何在不中斷服務的情況下更新正式環境中的模型? 你將學到批次預測、即時預測、輸入與輸出資料驗證、單元測試、整合測試、金絲雀部署等主題,還有更多內容。
最後一章將介紹 ML 服務在部署後的監控與維護,以及模型治理。 你會學到關鍵概念,如驗證延遲、共變異轉移、概念漂移、人類介入(human-in-the-loop)系統等更多內容。