This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

Il framework MLOps moderno

Opzioni

Sviluppo di Machine Learning (ML)

Operations

Workflow di ML

Vantaggi di MLOps

Fasi del ciclo di vita

Modello di ML

Applicazione di ML

App vs. modello

Dismissione

Ciclo di vita MLOps

Il ciclo di vita del modello: riepilogo

Componenti di MLOps

Sequenza automatizzata

Feature store

Metadata store

Model registry

Store e registry

MLOps + DevOps

Solo MLOps

DevOps o MLOps?

MLOps in a Nutshell

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations.

Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Deployment-driven development

Testing your machine learning model

Best time to start deploying

Profiling, versioning, and feature stores

Feature store properties

Profiling and feature store benefits

Ensuring reproducibility

Model build pipelines in CI/CD

Different pipelines

Model build pipeline properties

CI/CD integration

Model packaging

Model formats

Full package

Develop for Deployment

This chapter deals with critical model operations questions such as:
- What are the different ways in which we can serve our models?
- What is an API, and what are its key functionalities?
- How do we thoroughly test our service before making it available to the end users?
- How do we update models in production without service disturbance?

You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Serving modes

Offline or online?

When time matters - a bit

Building the API

Client-server

API functionalities

Deployment progression and testing

Which test is it?

Progression through environments

Tests per environment

Model deployment strategies

A fitting deployment strategy

Order of risk

Shadow of the shadow

Deploy and Run

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance.

You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.


Monitoring ML services

Shift vs drift

Latency

Already?

Monitoring and alerting

The monitoring system

Alerting

Model maintenance

Data-centric vs Model-centric

Human-in-the-Loop

Model governance

Elements of governance

Stages of governance

Risk classification

Wrap up

Monitor and Maintain

Esplora il moderno framework MLOps, inclusi il ciclo di vita e il deployment dei modelli di Machine Learning. In questo corso imparerai a scrivere codice ML che riduce il debito tecnico, a scoprire gli strumenti necessari per distribuire e monitorare i tuoi modelli e ad approfondire i diversi tipi di ambienti e le analitiche che incontrerai.

Dopo aver raccolto, preparato ed etichettato i dati, eseguito numerosi esperimenti su modelli diversi e validato il concetto con un modello campione, è il momento dei passaggi successivi. Build. Deploy. Monitor. Maintain. Questo è il ciclo di vita del tuo modello quando è destinato alla produzione. È la parte Ops di MLOps.

Questo corso ti mostrerà come affrontare il secondo capitolo del percorso del tuo modello verso la creazione di valore, fissando il benchmark per molti altri a venire.

<h2>Implementazione e ciclo di vita MLOps</h2>

Scopri il moderno framework MLOps, compreso il ciclo di vita e l'implementazione dei modelli di machine learning. In questo corso imparerai a scrivere codice ML che riduce al minimo il debito tecnico, scoprirai gli strumenti necessari per implementare e monitorare i tuoi modelli ed esaminerai i diversi tipi di ambienti e analisi che incontrerai.

<h2>Scopri il ciclo di vita MLOps</h2>
Dopo aver raccolto, preparato ed etichettato i tuoi dati, aver fatto un sacco di esperimenti su diversi modelli e aver dimostrato che la tua idea funziona con un modello vincente, è ora di passare alle fasi successive. Costruire Distribuisci. Monitorare. Mantenere. Questo è il ciclo di vita del tuo modello una volta che è pronto per la produzione. Questa è la parte Ops di MLOps.

Questo corso ti mostrerà come affrontare la seconda fase del percorso del tuo modello verso la creazione di valore, stabilendo uno standard di riferimento per molti altri che seguiranno. Inizierai esplorando il ciclo di vita di MLOps, scoprendo quanto sia importante MLOps e quali sono le parti fondamentali per sviluppare, implementare, monitorare e mantenere i modelli.
<h2>Sviluppare codice ML per la distribuzione</h2>
Poi, imparerai come creare modelli da usare e come scrivere codice ML che funzioni, usare gli strumenti e addestrare le pipeline ML. Man mano che vai avanti, imparerai come distribuire i tuoi modelli, scoprendo diversi ambienti di distribuzione e quando usarli. Svilupperai anche strategie per sostituire i modelli di produzione attuali e darai un'occhiata alle API.
<h2>Scopri come tenere d'occhio i tuoi modelli</h2>
Finendo il corso, scoprirai le metriche di performance fondamentali per monitorare e mantenere i tuoi modelli ML. Imparerai a monitorare la deriva nella produzione, oltre a cose come il feedback dei modelli, gli aggiornamenti e la governance.

Quando avrai finito, capirai come usare il ciclo di vita MLOps per mettere in produzione i tuoi modelli.


MLOps Concepts

In questo corso esplorerai il framework MLOps moderno, il ciclo di vita e il deployment dei modelli ML.

Deployment e ciclo di vita in MLOps

In questo corso scoprirai il moderno framework MLOps, esplorando il ciclo di vita e l'implementazione dei modelli di machine learning. 

Ingegnere dell'apprendimento automatico

Fondamenti di MLOps

App vs. modello

Deployment e ciclo di vita in MLOps

Esercizio pratico interattivo