經過數月、對無數特徵、模型與超參數的反覆實驗後,你的模型定義終於定稿。接下來,你要把這個模型定義轉成具體的模型物件,將它部署為提供給終端使用者的服務,並啟動它的營運生命週期。
還記得在這段旅程中的各個階段順序嗎?
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
本章將從高層次概述 MLOps 的原則與對部署與生命週期至關重要的架構元件。
當前練習
本章著重於在開發階段就需要考量的各項要點,確保進入營運後能順利推進。 最終目標是說明如何依循 MLOps 的最佳實務訓練模型,並建置能順利部署、可重現且可於部署後進行監控的模型套件。
本章將探討關鍵的模型營運問題,例如: - 我們有哪些不同方式可以提供模型服務? - 什麼是 API?它的關鍵功能是什麼? - 在提供給最終使用者前,如何徹底測試我們的服務? - 如何在不中斷服務的情況下更新正式環境中的模型? 你將學到批次預測、即時預測、輸入與輸出資料驗證、單元測試、整合測試、金絲雀部署等主題,還有更多內容。
最後一章將介紹 ML 服務在部署後的監控與維護,以及模型治理。 你會學到關鍵概念,如驗證延遲、共變異轉移、概念漂移、人類介入(human-in-the-loop)系統等更多內容。