Before we can validate models, we need an understanding of how to create and work with them. This chapter provides an introduction to running regression and classification models in scikit-learn. We will use this model building foundation throughout the remaining chapters. 

Introduction à la validation de modèles

Étapes de modélisation

Données vues vs non vues

Modèles de régression

Définir des paramètres et ajuster un modèle

Importances des variables

Modèles de classification

Prédictions de classification

Réutiliser les paramètres du modèle

Classificateur par forêts aléatoires

Basic Modeling in scikit-learn

This chapter focuses on the basics of model validation. From splitting data into training, validation, and testing datasets, to creating an understanding of the bias-variance tradeoff, we build the foundation for the techniques of K-Fold and Leave-One-Out validation practiced in chapter three. 

Creating train, test, and validation datasets

Create one holdout set

Create two holdout sets

Why use holdout sets

Accuracy metrics: regression models

Mean absolute error

Mean squared error

Performance on data subsets

Classification metrics

Confusion matrices

Confusion matrices, again

Precision vs. recall

The bias-variance tradeoff

Error due to under/over-fitting

Am I underfitting?

Validation Basics

Holdout sets are a great start to model validation. However, using a single train and test set if often not enough. Cross-validation is considered the gold standard when it comes to validating model performance and is almost always used when tuning model hyper-parameters. This chapter focuses on performing cross-validation to validate model performance. 

The problems with holdout sets

Two samples

Potential problems

Cross-validation

scikit-learn's KFold()

Using KFold indices

sklearn's cross_val_score()

scikit-learn's methods

Implement cross_val_score()

Leave-one-out-cross-validation (LOOCV)

When to use LOOCV

Leave-one-out-cross-validation

Cross Validation

The first three chapters focused on model validation techniques. In chapter 4 we apply these techniques, specifically cross-validation, while learning about hyperparameter tuning. After all, model validation makes tuning possible and helps us select the overall best model. 

Introduction to hyperparameter tuning

Creating Hyperparameters

Running a model using ranges

RandomizedSearchCV

Preparing for RandomizedSearch

Implementing RandomizedSearchCV

Selecting your final model

Best classification accuracy

Selecting the best precision model

Course completed!

Selecting the best model with Hyperparameter tuning. 

Candy dataset

Tic-Tac-Toe dataset

Les modèles de Machine Learning sont plus simples à mettre en œuvre que jamais. Sans une validation correcte, les résultats obtenus en faisant passer de nouvelles données dans un modèle peuvent être moins précis que prévu. La validation de modèle permet aux analystes de répondre avec confiance à la question : quelle est la qualité de votre modèle ? Nous y répondrons pour des modèles de classification à l’aide de l’ensemble complet des scénarios de fin de partie du morpion (tic-tac-toe), et pour des modèles de régression à partir du jeu de données « ultimate Halloween candy power ranking » de fivethirtyeight. Dans ce cours, nous verrons les bases de la validation de modèles, passerons en revue différentes techniques de validation et commencerons à développer des outils pour créer des modèles validés et performants.

Supervised Learning with scikit-learn

Apprenez les bases de la validation de modèles et créez des modèles validés et performants.

Validation des modèles en Python

Apprenez les bases de la validation de modèles, les techniques, et commencez à créer des modèles validés et hautement performants.

Chercheur en apprentissage automatique en Python

Étapes de modélisation

Exercice interactif pratique