你學到作為你的 ML 服務與外部世界之間的接觸點,API 具有許多重要的防護功能。
如果有其中一個用戶端應用程式在請求中只傳了 4 個必要特徵中的 2 個,你必須能立即偵測到,並告知對方他們出了錯。
否則你的服務可能只回傳一般性的錯誤,看起來像是「你」這邊出了問題。
這個檢查是每個嚴謹 API 的基本功能,我們稱它為:
本練習屬於課程
將理論付諸實踐,立即體驗我們的互動練習
本章將從高層次概述 MLOps 的原則與對部署與生命週期至關重要的架構元件。
本章著重於在開發階段就需要考量的各項要點,確保進入營運後能順利推進。 最終目標是說明如何依循 MLOps 的最佳實務訓練模型,並建置能順利部署、可重現且可於部署後進行監控的模型套件。
本章將探討關鍵的模型營運問題,例如: - 我們有哪些不同方式可以提供模型服務? - 什麼是 API?它的關鍵功能是什麼? - 在提供給最終使用者前,如何徹底測試我們的服務? - 如何在不中斷服務的情況下更新正式環境中的模型? 你將學到批次預測、即時預測、輸入與輸出資料驗證、單元測試、整合測試、金絲雀部署等主題,還有更多內容。
當前練習
最後一章將介紹 ML 服務在部署後的監控與維護,以及模型治理。 你會學到關鍵概念,如驗證延遲、共變異轉移、概念漂移、人類介入(human-in-the-loop)系統等更多內容。