Il momento migliore per iniziare il deployment

Ti è stato affidato il compito di sviluppare un motore di raccomandazione per un nuovissimo servizio di streaming.

Costruire il modello per questo caso d’uso sarà impegnativo, e la sola fase di sperimentazione e tuning può facilmente assorbire tutte le tue energie.

Poi, un giorno, dopo diversi mesi, ce l’hai fatta! Le prestazioni richieste sono state raggiunte, quindi distribuiamo questa meraviglia!

Ok, ma dove? Come?

La realtà ti raggiunge e impari a tue spese che concentrarsi troppo sullo sviluppo può lasciare le preparazioni al deployment in un punto cieco. Questo potrebbe rendere inutili tutti i tuoi sforzi, perché non puoi distribuire un qualsiasi modello su qualsiasi piattaforma: devono essere allineati. Alla fine ti servono altri tre mesi di sviluppo per creare un pacchetto di modello completamente nuovo, pronto per il deployment.

Ma ora sei più saggio e sai che il momento migliore per iniziare a preparare il tuo modello e la tua app di ML per il deployment è:

Questo esercizio fa parte del corso

Deployment e ciclo di vita in MLOps

Visualizza il corso

Esercizio pratico interattivo

Passa dalla teoria alla pratica con uno dei nostri esercizi interattivi

Inizia esercizio

Questo esercizio fa parte del corso

Deployment e ciclo di vita in MLOps

AvançadoNível de habilidade

4.8+

Inizia il corso gratis

This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

Exercise 1: The modern MLOps framework Exercise 2: ML workflows Exercise 3: MLOps benefits Exercise 4: Life-cycling stages Exercise 5: App vs. model Exercise 6: Decommissioning Exercise 7: The model life cycle: recap Exercise 8: MLOps components Exercise 9: Automated sequence Exercise 10: Stores and registries Exercise 11: DevOps or MLOps?

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations. Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Exercise 1: Sviluppo guidato dal deployment Exercise 2: Testare il tuo modello di Machine Learning Exercise 3: Il momento migliore per iniziare il deployment

Esercizio in corso

Exercise 4: Profilazione, versioning e feature store Exercise 5: Proprietà dei feature store Exercise 6: Vantaggi di profiling e feature store Exercise 7: Garantire la riproducibilità Exercise 8: Pipeline di build del modello in CI/CD Exercise 9: Pipeline diverse Exercise 10: Proprietà della model build pipeline Exercise 11: Integrazione CI/CD Exercise 12: Impacchettamento del modello Exercise 13: Formati di modelli Exercise 14: Pacchetto completo

This chapter deals with critical model operations questions such as: - What are the different ways in which we can serve our models? - What is an API, and what are its key functionalities? - How do we thoroughly test our service before making it available to the end users? - How do we update models in production without service disturbance? You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Exercise 1: Serving modes Exercise 2: Offline or online?Exercise 3: When time matters - a bit Exercise 4: Building the API Exercise 5: Client-server Exercise 6: API functionalities Exercise 7: Deployment progression and testing Exercise 8: Which test is it?Exercise 9: Progression through environments Exercise 10: Tests per environment Exercise 11: Model deployment strategies Exercise 12: A fitting deployment strategy Exercise 13: Order of risk Exercise 14: Shadow of the shadow

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance. You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.

Exercise 1: Monitoring ML services Exercise 2: Shift vs drift Exercise 3: Latency Exercise 4: Already?Exercise 5: Monitoring and alerting Exercise 6: The monitoring system Exercise 7: Alerting Exercise 8: Model maintenance Exercise 9: Data-centric vs Model-centric Exercise 10: Human-in-the-Loop Exercise 11: Model governance Exercise 12: Elements of governance Exercise 13: Stages of governance Exercise 14: Risk classification Exercise 15: Wrap up