你已經學到，機器學習服務可接受的延遲，會影響你選擇實作的服務模式。
有時使用者可以等上數天、甚至數週。有時候，多 1 秒就太久。
預期延遲越低，工程挑戰與服務成本就越高。因此，避免過度工程設計，讓你的 ML 服務設計符合使用者的實際需求與可接受的付費水準。
例如，你正在建立一個用來分析並摘要大型 .pdf 文件的 ML 服務。若使用者表示希望在發出請求後 5 分鐘內收到服務輸出，對此用例最合理的服務模式會是：
本練習屬於課程
將理論付諸實踐，立即體驗我們的互動練習
本章將從高層次概述 MLOps 的原則與對部署與生命週期至關重要的架構元件。
本章著重於在開發階段就需要考量的各項要點，確保進入營運後能順利推進。 最終目標是說明如何依循 MLOps 的最佳實務訓練模型，並建置能順利部署、可重現且可於部署後進行監控的模型套件。
本章將探討關鍵的模型營運問題，例如： - 我們有哪些不同方式可以提供模型服務？ - 什麼是 API？它的關鍵功能是什麼？ - 在提供給最終使用者前，如何徹底測試我們的服務？ - 如何在不中斷服務的情況下更新正式環境中的模型？ 你將學到批次預測、即時預測、輸入與輸出資料驗證、單元測試、整合測試、金絲雀部署等主題，還有更多內容。
當前練習
最後一章將介紹 ML 服務在部署後的監控與維護，以及模型治理。 你會學到關鍵概念，如驗證延遲、共變異轉移、概念漂移、人類介入（human-in-the-loop）系統等更多內容。
