In this chapter, you will be introduced to the NannyML library and its fundamental functions. Initially, you will learn the process of preparing raw data to create reference and analysis sets ready for production monitoring. As a practical example, you will investigate predicting the tip amount for taxi rides in New York. Toward the end of the chapter, you will also discover how to estimate the performance of the tip prediction model using NannyML.

Wat is NannyML?

Belangrijkste functies van NannyML

Laad de gegevensset

Gegevens voorbereiden voor NannyML

Opties

Referentieperiode 

Analyseperiode

Referentie- of analyseperiode?

De data laden en splitsen

Referentie- en analyseset maken

Prestatie-inschatting

Specificeer het algoritme en het probleemtype

Resultaten interpreteren

Prestatieschatting

CBPE- en DLE-workflow

Prestatie-inschatting voor tipvoorspelling

Data Preparation and Performance Estimation

In this chapter, you will be introduced to realized performance calculators used when ground truth becomes available. You will learn about the more advanced methods for handling results, including filtering, plotting, converting them to data frames, chunking, and establishing custom thresholds. Lastly, you'll apply this knowledge to calculate the business value of a model trained on the hotel booking dataset.

When labels are available

When performance estimation is off

Comparing estimated and realized performance

Working with calculated and estimated results

Different chunking methods

Modifying the thresholds

Interacting with results

Business value calculation and estimation

Business value calculation

Drop in monetary value

Business calculation for hotel booking dataset

Monitoring Performance and Business Value

Having detected the performance degradation in the hotel booking model, you will now learn how to identify the underlying issue causing it. In this chapter, you will be introduced to multivariate and univariate drift detection methods. You will also learn how to identify data quality issues and how to address the underlying problems you detect.

Multivariate drift detection

Identifying relevant drifts

Drift in hotel booking dataset

Univariate drift detection

Univariate drift detection for hotel booking dataset

Ranking the univariate results

Visualizing drifting features

Data quality and statistic checks

Data quality checks

Summary statistics

Issue resolution

What is the resolution?

Should you do nothing or not?

Implementing a monitoring workflow

Congratulations

Root Cause Analysis and Issue Resolution

Green Taxi Dataset

Hotel Booking Analysis Dataset

Hotel Booking Reference Dataset

Het monitoren van Machine Learning-modellen zorgt voor het langetermijnsucces van je Machine Learning-projecten. Monitoring kan behoorlijk complex zijn. Gelukkig zijn er Python-pakketten die helpen te begrijpen hoe je modellen presteren, welke data is veranderd die tot een prestatieverlies kan hebben geleid, en die aanwijzingen geven over wat je kunt doen om je modellen weer op niveau te krijgen. In deze cursus leer je alles wat je nodig hebt om een eenvoudig monitoringsysteem in Python te bouwen met het populaire monitorpakket nannyml.


<h2>Leer hoe je je ML-modellen in Python kunt monitoren</h2>

Het monitoren van machine learning-modellen zorgt ervoor dat je machine learning-projecten op de lange termijn blijven slagen. Monitoring kan best ingewikkeld zijn, maar er zijn Python-pakketten die ons helpen begrijpen hoe onze modellen presteren, welke gegevens zijn veranderd waardoor de prestaties misschien zijn gedaald, en die ons tips geven over wat we moeten doen om onze modellen weer op de rails te krijgen. Deze cursus behandelt alles wat je moet weten om een eenvoudig monitoringsysteem in Python te bouwen, met behulp van het populaire monitorpakket nannyml.

<h2>Begrijp de beste manier om dingen in de gaten te houden</h2>

Modelmonitoring gaat niet alleen over het simpelweg berekenen van de prestaties van een model in productie. Helaas is het niet zo simpel. Vooral als labels moeilijk te vinden zijn. In deze cursus leer je alles over de beste manier om je monitoring te regelen. Het zorgt ervoor dat je altijd modelstoringen opmerkt, waarschuwingsmoeheid voorkomt en snel de oorzaak van het probleem vindt.

<h2>Ontdek hoe je de echte oorzaak van problemen met modelprestaties kunt vinden.</h2>

Een ander belangrijk onderdeel van modelmonitoring is het achterhalen van de echte oorzaak. In deze cursus gaan we dieper in op hoe je technieken voor het spotten van datadrift kunt gebruiken om de echte oorzaak van problemen met modelprestaties te vinden. Je leert hoe je zowel univariate als multivariate technieken voor het opsporen van gegevensafwijkingen kunt gebruiken om mogelijke oorzaken van modelproblemen te ontdekken.




Monitoring Machine Learning Concepts

Deze cursus behandelt alles wat je moet weten om een basis ML-monitoringssysteem in Python te bouwen.

Monitoring Machine Learning in Python

Deze cursus behandelt alles wat je moet weten om een eenvoudig monitoringsysteem voor machine learning te bouwen in Python.

Machine Learning Engineer

Machine learning in productie in Python

CBPE- en DLE-workflow

Monitoring Machine Learning in Python

Praktische interactieve oefening