Beste moment om te beginnen met deployen

Je kreeg de taak om een aanbevelingssysteem te ontwikkelen voor een gloednieuwe streamingdienst.

Het bouwen van het model voor deze usecase wordt een uitdagend proces, en alleen al het experimenteren en afstemmen kan je gemakkelijk volledig opslokken.

Dan, op een dag, na meerdere maanden, is het gelukt! De vereiste prestaties zijn behaald, dus laten we dit pareltje deployen!

Oké, maar waar? Hoe?

De realiteit slaat toe en je leert op de harde manier dat te veel focus op de ontwikkeling de deploymentvoorbereidingen buiten beeld kan laten. Dat kan al je inspanningen nutteloos maken, want je kunt niet zomaar elk model op elk platform deployen; ze moeten op elkaar zijn afgestemd. Uiteindelijk kost het je nog drie maanden extra ontwikkeling om een volledig nieuw modelpakket te maken dat klaar is voor deployment.

Maar nu ben je wijzer en weet je dat het beste moment om je ML-model en app voor deployment voor te bereiden is:

Deze oefening maakt deel uit van de cursus

MLOps-deployments en levenscyclus

Cursus bekijken

Praktische interactieve oefening

Zet theorie om in actie met een van onze interactieve oefeningen.

Begin met trainen

Deze oefening maakt deel uit van de cursus

MLOps-deployments en levenscyclus

SkillTag.level.advancedSkillTag.label

4.8+

Begin de cursus gratis

This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

Exercise 1: The modern MLOps framework Exercise 2: ML workflows Exercise 3: MLOps benefits Exercise 4: Life-cycling stages Exercise 5: App vs. model Exercise 6: Decommissioning Exercise 7: The model life cycle: recap Exercise 8: MLOps components Exercise 9: Automated sequence Exercise 10: Stores and registries Exercise 11: DevOps or MLOps?

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations. Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Exercise 1: Deployment-gedreven ontwikkeling Exercise 2: Je machine learning-model testen Exercise 3: Beste moment om te beginnen met deployen

Huidige oefening

Exercise 4: Profiling, versiebeheer en feature stores Exercise 5: Eigenschappen van feature stores Exercise 6: Voordelen van profilering en feature stores Exercise 7: Reproduceerbaarheid waarborgen Exercise 8: Model-buildpijplijnen in CI/CD Exercise 9: Verschillende pijplijnen Exercise 10: Eigenschappen van de model-buildpijplijn Exercise 11: CI/CD-integratie Exercise 12: Modelverpakking Exercise 13: Modelformats Exercise 14: Volledig pakket

This chapter deals with critical model operations questions such as: - What are the different ways in which we can serve our models? - What is an API, and what are its key functionalities? - How do we thoroughly test our service before making it available to the end users? - How do we update models in production without service disturbance? You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Exercise 1: Serving modes Exercise 2: Offline or online?Exercise 3: When time matters - a bit Exercise 4: Building the API Exercise 5: Client-server Exercise 6: API functionalities Exercise 7: Deployment progression and testing Exercise 8: Which test is it?Exercise 9: Progression through environments Exercise 10: Tests per environment Exercise 11: Model deployment strategies Exercise 12: A fitting deployment strategy Exercise 13: Order of risk Exercise 14: Shadow of the shadow

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance. You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.

Exercise 1: Monitoring ML services Exercise 2: Shift vs drift Exercise 3: Latency Exercise 4: Already?Exercise 5: Monitoring and alerting Exercise 6: The monitoring system Exercise 7: Alerting Exercise 8: Model maintenance Exercise 9: Data-centric vs Model-centric Exercise 10: Human-in-the-Loop Exercise 11: Model governance Exercise 12: Elements of governance Exercise 13: Stages of governance Exercise 14: Risk classification Exercise 15: Wrap up