This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

The modern MLOps framework

ML workflows

MLOps benefits

Life-cycling stages

App vs. model

Decommissioning

The model life cycle: recap

MLOps components

Automated sequence

Stores and registries

DevOps or MLOps?

MLOps in a Nutshell

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations.

Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Deployment-driven development

Testing your machine learning model

Best time to start deploying

Profiling, versioning, and feature stores

Feature store properties

Profiling and feature store benefits

Ensuring reproducibility

Model build pipelines in CI/CD

Different pipelines

Model build pipeline properties

CI/CD integration

Model packaging

Model formats

Full package

Develop for Deployment

This chapter deals with critical model operations questions such as:
- What are the different ways in which we can serve our models?
- What is an API, and what are its key functionalities?
- How do we thoroughly test our service before making it available to the end users?
- How do we update models in production without service disturbance?

You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Modalità di serving

Offline o online?

Quando il tempo conta - ma non troppo

Creare l'API

Client-server

Funzionalità dell'API

Progressione del deployment e test

Che test è?

Processo di Data Science

Progressione tra gli ambienti

Opzioni

Ambiente di sviluppo

Ambiente di test

Ambiente di staging

Test per ambiente

Strategie di deployment del modello

Una strategia di deployment adatta

Strategie di deployment

Ordine di rischio

L'ombra dell'ombra

Deploy and Run

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance.

You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.


Monitoring ML services

Shift vs drift

Latency

Already?

Monitoring and alerting

The monitoring system

Alerting

Model maintenance

Data-centric vs Model-centric

Human-in-the-Loop

Model governance

Elements of governance

Stages of governance

Risk classification

Wrap up

Monitor and Maintain

Esplora il moderno framework MLOps, inclusi il ciclo di vita e il deployment dei modelli di Machine Learning. In questo corso imparerai a scrivere codice ML che riduce il debito tecnico, a scoprire gli strumenti necessari per distribuire e monitorare i tuoi modelli e ad approfondire i diversi tipi di ambienti e le analitiche che incontrerai.

Dopo aver raccolto, preparato ed etichettato i dati, eseguito numerosi esperimenti su modelli diversi e validato il concetto con un modello campione, è il momento dei passaggi successivi. Build. Deploy. Monitor. Maintain. Questo è il ciclo di vita del tuo modello quando è destinato alla produzione. È la parte Ops di MLOps.

Questo corso ti mostrerà come affrontare il secondo capitolo del percorso del tuo modello verso la creazione di valore, fissando il benchmark per molti altri a venire.

<h2>Implementazione e ciclo di vita MLOps</h2>

Scopri il moderno framework MLOps, compreso il ciclo di vita e l'implementazione dei modelli di machine learning. In questo corso imparerai a scrivere codice ML che riduce al minimo il debito tecnico, scoprirai gli strumenti necessari per implementare e monitorare i tuoi modelli ed esaminerai i diversi tipi di ambienti e analisi che incontrerai.

<h2>Scopri il ciclo di vita MLOps</h2>
Dopo aver raccolto, preparato ed etichettato i tuoi dati, aver fatto un sacco di esperimenti su diversi modelli e aver dimostrato che la tua idea funziona con un modello vincente, è ora di passare alle fasi successive. Costruire Distribuisci. Monitorare. Mantenere. Questo è il ciclo di vita del tuo modello una volta che è pronto per la produzione. Questa è la parte Ops di MLOps.

Questo corso ti mostrerà come affrontare la seconda fase del percorso del tuo modello verso la creazione di valore, stabilendo uno standard di riferimento per molti altri che seguiranno. Inizierai esplorando il ciclo di vita di MLOps, scoprendo quanto sia importante MLOps e quali sono le parti fondamentali per sviluppare, implementare, monitorare e mantenere i modelli.
<h2>Sviluppare codice ML per la distribuzione</h2>
Poi, imparerai come creare modelli da usare e come scrivere codice ML che funzioni, usare gli strumenti e addestrare le pipeline ML. Man mano che vai avanti, imparerai come distribuire i tuoi modelli, scoprendo diversi ambienti di distribuzione e quando usarli. Svilupperai anche strategie per sostituire i modelli di produzione attuali e darai un'occhiata alle API.
<h2>Scopri come tenere d'occhio i tuoi modelli</h2>
Finendo il corso, scoprirai le metriche di performance fondamentali per monitorare e mantenere i tuoi modelli ML. Imparerai a monitorare la deriva nella produzione, oltre a cose come il feedback dei modelli, gli aggiornamenti e la governance.

Quando avrai finito, capirai come usare il ciclo di vita MLOps per mettere in produzione i tuoi modelli.


MLOps Concepts

In questo corso esplorerai il framework MLOps moderno, il ciclo di vita e il deployment dei modelli ML.

Deployment e ciclo di vita in MLOps

In questo corso scoprirai il moderno framework MLOps, esplorando il ciclo di vita e l'implementazione dei modelli di machine learning. 

Ingegnere dell'apprendimento automatico

Fondamenti di MLOps

Client-server

Deployment e ciclo di vita in MLOps

Esercizio pratico interattivo