Tato kapitola poskytuje přehled principů MLOps a klíčových komponent frameworku důležitých pro nasazení a správu životního cyklu modelů.

Moderní MLOps framework

ML workflows

Přínosy MLOps

Fáze životního cyklu

Aplikace vs. model

Vyřazení z provozu

Životní cyklus modelu: rekapitulace

Komponenty MLOps

Automatizovaná posloupnost

Úložiště a registry

DevOps, nebo MLOps?

MLOps stručně a jasně

Tato kapitola se věnuje všem aspektům, které je třeba zvážit už ve fázi vývoje, aby byl přechod do provozu co nejplynulejší.

Naším hlavním cílem je vysvětlit, jak trénovat model s využitím osvědčených MLOps postupů a sestavit balíček modelu, který umožňuje hladké nasazení, reprodukovatelnost a monitorování po nasazení.

Vývoj zaměřený na nasazení

Testování modelu strojového učení

Nejlepší čas začít s nasazením

Profilování, verzování a feature stores

Vlastnosti feature store

Výhody profilování dat a feature store

Zajištění reprodukovatelnosti

Sestavení modelu v CI/CD pipeline

Různé pipeline

Vlastnosti build pipeline modelu

Integrace CI/CD

Balení modelu

Formáty modelů

Kompletní balíček

Vývoj s ohledem na nasazení

Tato kapitola se zabývá zásadními otázkami provozu modelů, jako jsou:
- Jaké existují způsoby nasazování modelů?
- Co je API a jaké jsou jeho klíčové funkce?
- Jak důkladně otestovat službu před zpřístupněním koncovým uživatelům?
- Jak aktualizovat modely v produkci bez výpadku služby?

Dozvíš se o dávkové predikci, predikci v reálném čase, validaci vstupních a výstupních dat, unit testování, integračním testování, canary nasazení a mnohem více.

Způsoby nasazení modelu

Offline, nebo online?

Když na čase záleží – trochu

Tvorba API

Klient-server

Funkce API

Postup nasazení a testování

O jaký test jde?

Postup prostředími

Testy podle prostředí

Strategie nasazení modelu

Vhodná strategie nasazení

Pořadí podle rizika

Stín ve stínu

Nasazení a provoz

Tato závěrečná kapitola se věnuje monitorování a údržbě ML služeb po jejich nasazení a také správě modelů.

Probereme klíčové koncepty, jako je latence ověřování, kovariantní posun, konceptový drift, systémy s člověkem ve smyčce a další.


Monitoring ML služeb

Možnosti

Pravda

Nepravda

Shift vs. drift

Latence

Už teď?

Monitorování a upozornění

Monitorovací systém

Alerting

Údržba modelu

Data-centrický přístup

Model-centrický přístup

Data-centrický vs. model-centrický přístup

Human-in-the-Loop

Správa modelů

V oblasti model governance

Mimo oblast model governance

Prvky governance

Návrh

Vývoj

Provoz

Fáze správy modelů

Klasifikace rizik

Závěr

Monitorování a údržba

Prozkoumej moderní MLOps framework, včetně životního cyklu a nasazování modelů strojového učení. V tomto kurzu se naučíš psát ML kód, který minimalizuje technický dluh, objevíš nástroje potřebné k nasazení a monitorování modelů a seznámíš se s různými typy prostředí a analytických přístupů.

Jakmile máš sebraná, připravená a popsaná data, provedl/a jsi řadu experimentů s různými modely a ověřil/a jsi svůj koncept s vítězným modelem, přichází čas na další kroky: sestavit, nasadit, monitorovat a udržovat. To je životní cyklus modelu určeného pro produkci. To je ta „Ops" část MLOps.

Tento kurz ti ukáže, jak se orientovat ve druhé kapitole cesty tvého modelu k reálné hodnotě a nastaví standard pro mnohé další projekty.

<h2>Nasazení a životní cyklus MLOps</h2>

Prozkoumejte moderní framework MLOps, včetně životního cyklu a nasazení modelů strojového učení. V tomto kurzu se naučíte psát ML kód, který minimalizuje technický dluh, objevíte nástroje, které budete potřebovat k nasazení a monitorování svých modelů, a prozkoumáte různé typy prostředí a analytiky, se kterými se setkáte.

<h2>Seznamte se s životním cyklem MLOps</h2>
Poté, co jste shromáždili, připravili a označili svá data, provedli řadu experimentů s různými modely a ověřili svůj koncept pomocí vítězného modelu, je čas na další kroky. Vytvářejte. Nasadit. Monitor. Udržujte. To je životní cyklus vašeho modelu, jakmile je určen pro produkci. To je ta část Ops v MLOps.

Tento kurz vám ukáže, jak se orientovat ve druhé kapitole cesty vašeho modelu k doručování hodnoty a nastaví laťku pro mnoho dalších, které přijdou. Začnete prozkoumáním životního cyklu MLOps, kde objevíte význam MLOps a klíčové funkční komponenty pro vývoj, nasazení, monitorování a údržbu modelů.
<h2>Vyvíjejte ML kód pro nasazení</h2>
Dále se naučíte, jak vyvíjet modely pro nasazení a jak psát efektivní ML kód, využívat nástroje a trénovat ML pipeline. Jak budete postupovat, naučíte se, jak nasazovat své modely, prozkoumáte různá prostředí nasazení a kdy je používat. Také si osvojíte strategie pro nahrazování stávajících produkčních modelů a prozkoumáte API.
<h2>Naučte se, jak monitorovat své modely</h2>
Jak budete kurz dokončovat, objevíte klíčové metriky výkonu, které stojí za monitorováním a udržováním vašich modelů ML. Dozvíte se o monitorování driftu v produkci, stejně jako o zpětné vazbě modelu, aktualizacích a správě.

Až budete hotovi, budete rozumět tomu, jak můžete využít životní cyklus MLOps k nasazení vlastních modelů do produkce.


MLOps Concepts

V tomto kurzu prozkoumáte moderní MLOps, životní cyklus a nasazení modelů strojového učení.

MLOps: nasazení a životní cyklus modelů

V tomto kurzu prozkoumáš moderní framework MLOps, životní cyklus a nasazení modelů strojového učení. 

Inženýr strojového učení

Základy MLOps

Ke zjištění covariate shiftu stačí monitorovat vstupní data

Concept drift lze potvrdit pouze pomocí ground truth

Concept drift měří, jak moc se reálný modelovaný proces změnil od doby, kdy byl model natrénován

Pokud je detekován covariate shift, jistě došlo i ke concept driftu

Pokud neexistuje covariate shift, nemůže dojít ani ke concept driftu

Modely se zhoršují tím, že začnou pro stejná vstupní data produkovat různé výstupy

Shift vs. drift

MLOps: nasazení a životní cyklus modelů

Interaktivní praktické cvičení