This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

The modern MLOps framework

ML workflows

MLOps benefits

Life-cycling stages

App vs. model

Decommissioning

The model life cycle: recap

MLOps components

Automated sequence

Stores and registries

DevOps or MLOps?

MLOps in a Nutshell

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations.

Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Pengembangan berorientasi deployment

Menguji model machine learning Anda

Waktu terbaik untuk mulai melakukan deployment

Profiling, versioning, dan feature store

Opsi

Benar

Salah

Properti feature store

Feature store

Profiling data

Manfaat profiling dan feature store

Memastikan reproduksibilitas

Pipa pembangunan model dalam CI/CD

Options

Model pipeline

Model BUILD pipeline

Pipeline yang berbeda

True

False

Properti model build pipeline

Sumber masukan pipeline

Penyimpanan keluaran pipeline

Integrasi CI/CD

Pengemasan model

Format model

Paket model

Bukan bagian dari paket model

Paket lengkap

Develop for Deployment

This chapter deals with critical model operations questions such as:
- What are the different ways in which we can serve our models?
- What is an API, and what are its key functionalities?
- How do we thoroughly test our service before making it available to the end users?
- How do we update models in production without service disturbance?

You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Serving modes

Offline or online?

When time matters - a bit

Building the API

Client-server

API functionalities

Deployment progression and testing

Which test is it?

Progression through environments

Tests per environment

Model deployment strategies

A fitting deployment strategy

Order of risk

Shadow of the shadow

Deploy and Run

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance.

You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.


Monitoring ML services

Shift vs drift

Latency

Already?

Monitoring and alerting

The monitoring system

Alerting

Model maintenance

Data-centric vs Model-centric

Human-in-the-Loop

Model governance

Elements of governance

Stages of governance

Risk classification

Wrap up

Monitor and Maintain

Jelajahi kerangka kerja MLOps modern, termasuk siklus hidup dan penyebaran model machine learning. Dalam kursus ini, Anda akan belajar menulis kode ML yang meminimalkan utang teknis, menemukan alat yang diperlukan untuk menyebarkan dan memantau model Anda, serta menelaah berbagai jenis lingkungan dan analitik yang akan Anda temui.

Setelah Anda mengumpulkan, menyiapkan, dan memberi label pada data, menjalankan banyak eksperimen pada berbagai model, dan membuktikan konsep dengan model juara, saatnya melangkah ke tahap berikutnya. Bangun. Sebarkan. Pantau. Rawat. Itulah siklus hidup model Anda ketika ditujukan untuk produksi. Itulah bagian Ops dalam MLOps.

Kursus ini akan menunjukkan cara menavigasi bab kedua dari perjalanan model Anda menuju penyampaian nilai, sekaligus menetapkan tolok ukur untuk banyak langkah berikutnya.

<h2>MLOps Deployment dan Pengelolaan Siklus Hidup</h2>

Jelajahi kerangka kerja MLOps modern, termasuk siklus hidup dan deployment model machine learning. Dalam kursus ini, Anda akan belajar menulis kode ML yang meminimalkan utang teknis, mengenal alat-alat yang diperlukan untuk mengimplementasikan dan memantau model Anda, serta mengeksplorasi berbagai jenis lingkungan dan analisis yang akan Anda temui.

<h2>Pelajari Tentang Siklus Hidup MLOps</h2>
Setelah Anda mengumpulkan, menyiapkan, dan memberi label pada data Anda, menjalankan berbagai eksperimen pada model yang berbeda, dan membuktikan konsep Anda dengan model terbaik, saatnya untuk langkah selanjutnya. Bangun Deploy. Monitor. Pertahankan. Itulah siklus hidup model Anda setelah ditentukan untuk produksi. Itulah bagian Ops dari MLOps.

Kursus ini akan menunjukkan kepada Anda cara menavigasi bab kedua dalam perjalanan model Anda menuju pengiriman nilai, yang akan menjadi acuan bagi banyak bab berikutnya. Anda akan memulai dengan mengeksplorasi siklus hidup MLOps, memahami pentingnya MLOps, dan komponen fungsional utama untuk pengembangan model, deployment, pemantauan, dan pemeliharaan.
<h2>Mengembangkan Kode ML untuk Deployment</h2>
Selanjutnya, Anda akan belajar cara mengembangkan model untuk implementasi dan cara menulis kode ML yang efektif, memanfaatkan alat-alat, serta melatih pipeline ML. Seiring dengan kemajuan Anda, Anda akan mempelajari cara mengimplementasikan model Anda, menjelajahi berbagai lingkungan implementasi, dan kapan sebaiknya menggunakan masing-masing lingkungan tersebut. Anda juga akan mengembangkan strategi untuk mengganti model produksi yang ada dan menganalisis antarmuka pemrograman aplikasi (API).
<h2>Pelajari Cara Memantau Model Anda</h2>
Seiring Anda menyelesaikan kursus ini, Anda akan memahami metrik kinerja yang penting dalam memantau dan memelihara model pembelajaran mesin (ML) Anda. Anda akan mempelajari pemantauan drift dalam produksi, serta umpan balik model, pembaruan, dan tata kelola.

Setelah Anda selesai, Anda akan memahami cara menggunakan siklus hidup MLOps untuk mengimplementasikan model Anda sendiri di lingkungan produksi.


MLOps Concepts

Dalam kursus ini, Anda akan mempelajari kerangka MLOps modern dan penerapan model pembelajaran mesin.

Penyebaran dan Siklus Hidup MLOps

Dalam kursus ini, Anda akan mempelajari kerangka kerja MLOps modern, termasuk siklus hidup dan deployment model machine learning. 

Insinyur Pembelajaran Mesin

Dasar-Dasar MLOps

Feature store adalah jenis basis data yang menyimpan data yang disiapkan khusus untuk model ML.

Feature store tingkat lanjut diimplementasikan sebagai apa yang disebut basis data ganda, satu untuk mengambil data pelatihan dan satu lagi untuk membuat prediksi.

Feature store membantu meningkatkan efisiensi dan konsistensi dengan memungkinkan kita membangun sebuah feature sekali, lalu menggunakannya kembali untuk berbagai model.

Kita juga dapat menyimpan model yang telah dilatih di feature store.

Feature store membantu kita memantau model yang diterapkan ke produksi.

Properti feature store

Penyebaran dan Siklus Hidup MLOps

Latihan interaktif praktis