This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

The modern MLOps framework

ML workflows

MLOps benefits

Life-cycling stages

App vs. model

Decommissioning

The model life cycle: recap

MLOps components

Automated sequence

Stores and registries

DevOps or MLOps?

MLOps in a Nutshell

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations.

Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Deployment-driven development

Testing your machine learning model

Best time to start deploying

Profiling, versioning, and feature stores

Feature store properties

Profiling and feature store benefits

Ensuring reproducibility

Model build pipelines in CI/CD

Different pipelines

Model build pipeline properties

CI/CD integration

Model packaging

Model formats

Full package

Develop for Deployment

This chapter deals with critical model operations questions such as:
- What are the different ways in which we can serve our models?
- What is an API, and what are its key functionalities?
- How do we thoroughly test our service before making it available to the end users?
- How do we update models in production without service disturbance?

You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Serving modes

Offline or online?

When time matters - a bit

Building the API

Client-server

API functionalities

Deployment progression and testing

Which test is it?

Progression through environments

Tests per environment

Model deployment strategies

A fitting deployment strategy

Order of risk

Shadow of the shadow

Deploy and Run

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance.

You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.


Memantau layanan ML

Opsi

Benar

Salah

Shift vs drift

Latensi

Sudah?

Pemantauan dan peringatan

Sistem pemantauan

Peringatan (Alerting)

Pemeliharaan model

Pendekatan data-centric

Pendekatan model-centric

Data-centric vs Model-centric

Human-in-the-Loop

Tata kelola model

Termasuk dalam cakupan tata kelola model

Tidak termasuk dalam cakupan tata kelola model

Elemen tata kelola

Perancangan

Pengembangan

Operasi

Tahapan tata kelola

Klasifikasi risiko

Penutup

Monitor and Maintain

Jelajahi kerangka kerja MLOps modern, termasuk siklus hidup dan penyebaran model machine learning. Dalam kursus ini, Anda akan belajar menulis kode ML yang meminimalkan utang teknis, menemukan alat yang diperlukan untuk menyebarkan dan memantau model Anda, serta menelaah berbagai jenis lingkungan dan analitik yang akan Anda temui.

Setelah Anda mengumpulkan, menyiapkan, dan memberi label pada data, menjalankan banyak eksperimen pada berbagai model, dan membuktikan konsep dengan model juara, saatnya melangkah ke tahap berikutnya. Bangun. Sebarkan. Pantau. Rawat. Itulah siklus hidup model Anda ketika ditujukan untuk produksi. Itulah bagian Ops dalam MLOps.

Kursus ini akan menunjukkan cara menavigasi bab kedua dari perjalanan model Anda menuju penyampaian nilai, sekaligus menetapkan tolok ukur untuk banyak langkah berikutnya.

<h2>MLOps Deployment dan Pengelolaan Siklus Hidup</h2>

Jelajahi kerangka kerja MLOps modern, termasuk siklus hidup dan deployment model machine learning. Dalam kursus ini, Anda akan belajar menulis kode ML yang meminimalkan utang teknis, mengenal alat-alat yang diperlukan untuk mengimplementasikan dan memantau model Anda, serta mengeksplorasi berbagai jenis lingkungan dan analisis yang akan Anda temui.

<h2>Pelajari Tentang Siklus Hidup MLOps</h2>
Setelah Anda mengumpulkan, menyiapkan, dan memberi label pada data Anda, menjalankan berbagai eksperimen pada model yang berbeda, dan membuktikan konsep Anda dengan model terbaik, saatnya untuk langkah selanjutnya. Bangun Deploy. Monitor. Pertahankan. Itulah siklus hidup model Anda setelah ditentukan untuk produksi. Itulah bagian Ops dari MLOps.

Kursus ini akan menunjukkan kepada Anda cara menavigasi bab kedua dalam perjalanan model Anda menuju pengiriman nilai, yang akan menjadi acuan bagi banyak bab berikutnya. Anda akan memulai dengan mengeksplorasi siklus hidup MLOps, memahami pentingnya MLOps, dan komponen fungsional utama untuk pengembangan model, deployment, pemantauan, dan pemeliharaan.
<h2>Mengembangkan Kode ML untuk Deployment</h2>
Selanjutnya, Anda akan belajar cara mengembangkan model untuk implementasi dan cara menulis kode ML yang efektif, memanfaatkan alat-alat, serta melatih pipeline ML. Seiring dengan kemajuan Anda, Anda akan mempelajari cara mengimplementasikan model Anda, menjelajahi berbagai lingkungan implementasi, dan kapan sebaiknya menggunakan masing-masing lingkungan tersebut. Anda juga akan mengembangkan strategi untuk mengganti model produksi yang ada dan menganalisis antarmuka pemrograman aplikasi (API).
<h2>Pelajari Cara Memantau Model Anda</h2>
Seiring Anda menyelesaikan kursus ini, Anda akan memahami metrik kinerja yang penting dalam memantau dan memelihara model pembelajaran mesin (ML) Anda. Anda akan mempelajari pemantauan drift dalam produksi, serta umpan balik model, pembaruan, dan tata kelola.

Setelah Anda selesai, Anda akan memahami cara menggunakan siklus hidup MLOps untuk mengimplementasikan model Anda sendiri di lingkungan produksi.


MLOps Concepts

Dalam kursus ini, Anda akan mempelajari kerangka MLOps modern dan penerapan model pembelajaran mesin.

Penyebaran dan Siklus Hidup MLOps

Dalam kursus ini, Anda akan mempelajari kerangka kerja MLOps modern, termasuk siklus hidup dan deployment model machine learning. 

Insinyur Pembelajaran Mesin

Dasar-Dasar MLOps

Sistem harus memberi tahu kita _apa_ yang salah dan _di mana_ (pada komponen aplikasi yang mana) mencari akar penyebabnya

Sistem harus diimplementasikan sebagai layanan terpusat untuk memantau semua aplikasi ML yang berjalan

Sistem harus menyimpan catatan semua masalah besar sebelumnya dan tindakan mitigasinya.

Sistem hanya perlu berfokus pada metrik kesehatan layanan yang paling penting, seperti uptime dan latensi

Sistem harus menghilangkan setiap potensi bias tidak etis dari prediksi model

Sistem harus menghentikan layanan ML segera setelah mendeteksi adanya pergeseran kovariat

Sistem pemantauan

Penyebaran dan Siklus Hidup MLOps

Latihan interaktif praktis