Before we can validate models, we need an understanding of how to create and work with them. This chapter provides an introduction to running regression and classification models in scikit-learn. We will use this model building foundation throughout the remaining chapters. 

Introduction to model validation

Modeling steps

Seen vs. unseen data

Regression models

Set parameters and fit a model

Feature importances

Classification models

Classification predictions

Reusing model parameters

Random forest classifier

Basic Modeling in scikit-learn

This chapter focuses on the basics of model validation. From splitting data into training, validation, and testing datasets, to creating an understanding of the bias-variance tradeoff, we build the foundation for the techniques of K-Fold and Leave-One-Out validation practiced in chapter three. 

Creating train, test, and validation datasets

Create one holdout set

Create two holdout sets

Why use holdout sets

Accuracy metrics: regression models

Mean absolute error

Mean squared error

Performance on data subsets

Classification metrics

Confusion matrices

Confusion matrices, again

Precision vs. recall

The bias-variance tradeoff

Error due to under/over-fitting

Am I underfitting?

Validation Basics

Holdout sets are a great start to model validation. However, using a single train and test set if often not enough. Cross-validation is considered the gold standard when it comes to validating model performance and is almost always used when tuning model hyper-parameters. This chapter focuses on performing cross-validation to validate model performance. 

Die Tücken von Holdout-Sets

Zwei Stichproben

Mögliche Probleme

Cross-Validation

scikit-learns KFold()

KFold-Indizes verwenden

sklearns cross_val_score()

Methoden in scikit-learn

cross_val_score() implementieren

Leave-One-Out-Cross-Validation (LOOCV)

Wann LOOCV verwenden

Leave-one-out-Cross-Validation

Cross Validation

The first three chapters focused on model validation techniques. In chapter 4 we apply these techniques, specifically cross-validation, while learning about hyperparameter tuning. After all, model validation makes tuning possible and helps us select the overall best model. 

Introduction to hyperparameter tuning

Creating Hyperparameters

Running a model using ranges

RandomizedSearchCV

Preparing for RandomizedSearch

Implementing RandomizedSearchCV

Selecting your final model

Best classification accuracy

Selecting the best precision model

Course completed!

Selecting the best model with Hyperparameter tuning. 

Candy dataset

Tic-Tac-Toe dataset

Machine-Learning-Modelle lassen sich heute einfacher implementieren als je zuvor. Ohne geeignete Validierung sind die Ergebnisse beim Anwenden eines Modells auf neue Daten oft weniger genau als erwartet. Modellvalidierung ermöglicht es Analyst:innen, die Frage „Wie gut ist dein Modell?“ verlässlich zu beantworten. Wir beantworten diese Frage für Klassifikationsmodelle mit dem vollständigen Satz an Tic-Tac-Toe-Endspielszenarien und für Regressionsmodelle mit fivethirtyeights Ultimate Halloween Candy Power Ranking Datensatz. In diesem Kurs behandeln wir die Grundlagen der Modellvalidierung, besprechen verschiedene Validierungstechniken und beginnen, Werkzeuge für validierte und leistungsstarke Modelle zu entwickeln.

Supervised Learning with scikit-learn

Lerne Modellvalidierung, Techniken und erstelle validierte, leistungsstarke Modelle.

Modellvalidierung in Python

Du lernst die Grundlagen der Modellvalidierung sowie Validierungstechniken und erstellst erste validierte und leistungsstarke Modelle.

Wissenschaftler für maschinelles Lernen in Python

Wann LOOCV verwenden

Interaktive praktische Übung