This chapter gives a high-level overview of MLOps principles and framework components important for deployment and life cycling.

The modern MLOps framework

ML workflows

MLOps benefits

Life-cycling stages

App vs. model

Decommissioning

The model life cycle: recap

MLOps components

Automated sequence

Stores and registries

DevOps or MLOps?

MLOps in a Nutshell

This chapter is dedicated to all the considerations we need to make already in the development phase, in order to ensure a smooth ride when we reach the operations.

Our ultimate goal is to explain how to train the model using MLOps best practices and build a model package that enables smooth deployment, reproducibility and post-deployment monitoring.

Deployment-getriebene Entwicklung

Dein Machine-Learning-Modell testen

Der beste Zeitpunkt für den Start der Bereitstellung

Profiling, Versionierung und Feature Stores

Optionen

Richtig

Falsch

Eigenschaften von Feature Stores

Feature Store

Datenprofiling

Vorteile von Profiling und Feature Store

Reproduzierbarkeit sicherstellen

Modell-Build-Pipelines in CI/CD

Modell-Pipeline

Modell-BUILD-Pipeline

Verschiedene Pipelines

Eigenschaften der Model-Build-Pipeline

Quellen für Pipeline-Eingaben

Speicher für Pipeline-Ausgaben

CI/CD-Integration

Modell-Packaging

Modellformate

Modellpaket

Nicht im Modellpaket

Vollständiges Paket

Develop for Deployment

This chapter deals with critical model operations questions such as:
- What are the different ways in which we can serve our models?
- What is an API, and what are its key functionalities?
- How do we thoroughly test our service before making it available to the end users?
- How do we update models in production without service disturbance?

You will learn about batch prediction, real-time prediction, input and output data validation, unit testing, integration testing, canary deployment, and much more.

Serving modes

Offline or online?

When time matters - a bit

Building the API

Client-server

API functionalities

Deployment progression and testing

Which test is it?

Progression through environments

Tests per environment

Model deployment strategies

A fitting deployment strategy

Order of risk

Shadow of the shadow

Deploy and Run

This final chapter is dedicated to monitoring and maintaining ML services after they are deployed, as well as to model governance.

You will cover crucial concepts such as verification latency, covariate shift, concept drift, human-in-the-loop systems, and more.


Monitoring ML services

Shift vs drift

Latency

Already?

Monitoring and alerting

The monitoring system

Alerting

Model maintenance

Data-centric vs Model-centric

Human-in-the-Loop

Model governance

Elements of governance

Stages of governance

Risk classification

Wrap up

Monitor and Maintain

Erkunde das moderne MLOps-Framework, einschließlich Lebenszyklus und Bereitstellung von Machine-Learning-Modellen. In diesem Kurs lernst du, ML-Code so zu schreiben, dass technische Schulden minimiert werden, entdeckst die Tools zur Bereitstellung und Überwachung deiner Modelle und schaust dir die verschiedenen Arten von Umgebungen und Analysen an, denen du begegnest.

Nachdem du deine Daten gesammelt, aufbereitet und gelabelt hast, zahlreiche Experimente mit verschiedenen Modellen durchgeführt und dein Konzept mit einem Champion-Modell bestätigt hast, kommt der nächste Schritt: Bauen. Bereitstellen. Überwachen. Warten. Das ist der Lebenszyklus deines Modells, sobald es für die Produktion vorgesehen ist. Das ist der Ops-Teil von MLOps.

Dieser Kurs zeigt dir, wie du das zweite Kapitel der Reise deines Modells hin zur Wertschöpfung erfolgreich gestaltest – und damit den Maßstab für viele weitere setzt.

<h2>MLOps-Bereitstellung und Lebenszyklus</h2>

Schau dir das moderne MLOps-Framework an, einschließlich des Lebenszyklus und der Bereitstellung von Machine-Learning-Modellen. In diesem Kurs lernst du, ML-Code zu schreiben, der technische Schulden minimiert, findest heraus, welche Tools du für die Bereitstellung und Überwachung deiner Modelle brauchst, und schaust dir die verschiedenen Arten von Umgebungen und Analysen an, denen du begegnen wirst.

<h2>Erfahre mehr über den MLOps-Lebenszyklus</h2>
Nachdem du deine Daten gesammelt, vorbereitet und gekennzeichnet hast, mehrere Experimente mit verschiedenen Modellen durchgeführt und dein Konzept mit einem Champion-Modell bestätigt hast, ist es Zeit für die nächsten Schritte. Selbst entwickeln Bereitstellen. Überwachen Wartung. Das ist der Lebenszyklus deines Modells, wenn es für die Produktion vorgesehen ist. Das ist der Ops-Teil von MLOps.

In diesem Kurs lernst du, wie du das zweite Kapitel der Reise deines Modells zur Wertschöpfung meistern kannst, das den Maßstab für viele weitere Kapitel setzt. Du startest damit, den MLOps-Lebenszyklus zu erkunden und lernst dabei, wie wichtig MLOps ist und welche funktionalen Komponenten für die Modellentwicklung, -bereitstellung, -überwachung und -wartung wichtig sind.
<h2>Entwickle ML-Code für die Bereitstellung</h2>
Als Nächstes lernst du, wie du Modelle für die Bereitstellung entwickelst und wie du effektiven ML-Code schreibst, Tools nutzt und ML-Pipelines trainierst. Im Laufe des Kurses lernst du, wie du deine Modelle bereitstellst, verschiedene Bereitstellungsumgebungen kennen und wann du sie am besten einsetzt. Du wirst auch Strategien entwickeln, um bestehende Produktionsmodelle zu ersetzen, und APIs checken.
<h2>Lerne, wie du deine Modelle überwachen kannst</h2>
Wenn du den Kurs machst, lernst du die wichtigen Leistungskennzahlen kennen, die für die Überwachung und Wartung deiner ML-Modelle wichtig sind. Du lernst was über Drift-Überwachung in der Produktion sowie über Modell-Feedback, Updates und Governance.

Wenn du fertig bist, wirst du wissen, wie du den MLOps-Lebenszyklus nutzen kannst, um deine eigenen Modelle in der Produktion einzusetzen.


MLOps Concepts

In diesem Kurs erkunden Sie das moderne MLOps-Framework und den Lebenszyklus von ML-Modellen.

MLOps-Bereitstellung und Lebenszyklus

In diesem Kurs lernst du das moderne MLOps-Framework kennen und beschäftigst dich mit dem Lebenszyklus und der Bereitstellung von Machine-Learning-Modellen. 

Ingenieur für maschinelles Lernen

MLOps-Grundlagen

Eingehende Daten validieren und den/die Nutzer:in warnen, wenn fehlerhafte Requests gesendet werden

Vorteile von Profiling und Feature Store

Interaktive praktische Übung