你學到了「驗證延遲(verification latency)」這個重要概念。
當驗證延遲以數月為單位時,你唯一的選擇就是訴諸輸入資料監控,作為及時偵測模型退化的間接方法。
現在想像你正在建立一個以 ML 為基礎的應用程式,利用從各大新聞入口網站與網路上的 API 收集的資料來預測股價。 每次你做出預測後,真實標記會在數秒內就能取得。
在這個情境下,實作輸入資料監控還有意義嗎?
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
本章將從高層次概述 MLOps 的原則與對部署與生命週期至關重要的架構元件。
本章著重於在開發階段就需要考量的各項要點,確保進入營運後能順利推進。 最終目標是說明如何依循 MLOps 的最佳實務訓練模型,並建置能順利部署、可重現且可於部署後進行監控的模型套件。
本章將探討關鍵的模型營運問題,例如: - 我們有哪些不同方式可以提供模型服務? - 什麼是 API?它的關鍵功能是什麼? - 在提供給最終使用者前,如何徹底測試我們的服務? - 如何在不中斷服務的情況下更新正式環境中的模型? 你將學到批次預測、即時預測、輸入與輸出資料驗證、單元測試、整合測試、金絲雀部署等主題,還有更多內容。
最後一章將介紹 ML 服務在部署後的監控與維護,以及模型治理。 你會學到關鍵概念,如驗證延遲、共變異轉移、概念漂移、人類介入(human-in-the-loop)系統等更多內容。
當前練習