Before we can validate models, we need an understanding of how to create and work with them. This chapter provides an introduction to running regression and classification models in scikit-learn. We will use this model building foundation throughout the remaining chapters. 

Introduction to model validation

Modeling steps

Seen vs. unseen data

Regression models

Set parameters and fit a model

Feature importances

Classification models

Classification predictions

Reusing model parameters

Random forest classifier

Basic Modeling in scikit-learn

This chapter focuses on the basics of model validation. From splitting data into training, validation, and testing datasets, to creating an understanding of the bias-variance tradeoff, we build the foundation for the techniques of K-Fold and Leave-One-Out validation practiced in chapter three. 

Creare insiemi di dati di training, test e validation

Crea un set di holdout

Crea due holdout set

Perché usare gli insiemi di holdout

Metriche di accuratezza: modelli di regressione

Errore assoluto medio

Errore quadratico medio

Prestazioni su sottoinsiemi di dati

Metriche di classificazione

Matrici di confusione

Ancora sulle confusion matrix

Precision vs. recall

Il compromesso bias-varianza

Errore dovuto a under/overfitting

Sto underfittando?

Validation Basics

Holdout sets are a great start to model validation. However, using a single train and test set if often not enough. Cross-validation is considered the gold standard when it comes to validating model performance and is almost always used when tuning model hyper-parameters. This chapter focuses on performing cross-validation to validate model performance. 

The problems with holdout sets

Two samples

Potential problems

Cross-validation

scikit-learn's KFold()

Using KFold indices

sklearn's cross_val_score()

scikit-learn's methods

Implement cross_val_score()

Leave-one-out-cross-validation (LOOCV)

When to use LOOCV

Leave-one-out-cross-validation

Cross Validation

The first three chapters focused on model validation techniques. In chapter 4 we apply these techniques, specifically cross-validation, while learning about hyperparameter tuning. After all, model validation makes tuning possible and helps us select the overall best model. 

Introduction to hyperparameter tuning

Creating Hyperparameters

Running a model using ranges

RandomizedSearchCV

Preparing for RandomizedSearch

Implementing RandomizedSearchCV

Selecting your final model

Best classification accuracy

Selecting the best precision model

Course completed!

Selecting the best model with Hyperparameter tuning. 

Candy dataset

Tic-Tac-Toe dataset

I modelli di Machine Learning sono oggi più facili da implementare che mai. Senza una corretta validazione, però, i risultati ottenuti applicando un modello a nuovi dati potrebbero non essere accurati quanto ti aspetti. La validazione del modello permette agli analisti di rispondere con sicurezza alla domanda: quanto è valido il tuo modello? Risponderemo a questa domanda per i modelli di classificazione usando l’insieme completo degli scenari finali del gioco del tris, e per i modelli di regressione usando il dataset di fivethirtyeight sul power ranking definitivo dei dolci di Halloween. In questo corso, tratteremo le basi della validazione dei modelli, discuteremo diverse tecniche di validazione e inizieremo a sviluppare strumenti per creare modelli validati e ad alte prestazioni.

Supervised Learning with scikit-learn

Impara le basi della validazione dei modelli e crea modelli validati e performanti.

Validazione dei modelli in Python

Impara le basi della validazione dei modelli, le tecniche di validazione e inizia a creare modelli validati e super efficaci.

Scienziato specializzato in apprendimento automatico in Python

Perché usare gli insiemi di holdout

Validazione dei modelli in Python

Esercizio pratico interattivo