Before we can validate models, we need an understanding of how to create and work with them. This chapter provides an introduction to running regression and classification models in scikit-learn. We will use this model building foundation throughout the remaining chapters. 

Introduction to model validation

Modeling steps

Seen vs. unseen data

Regression models

Set parameters and fit a model

Feature importances

Classification models

Classification predictions

Reusing model parameters

Random forest classifier

Basic Modeling in scikit-learn

This chapter focuses on the basics of model validation. From splitting data into training, validation, and testing datasets, to creating an understanding of the bias-variance tradeoff, we build the foundation for the techniques of K-Fold and Leave-One-Out validation practiced in chapter three. 

Criando conjuntos de dados de treino, teste e validação

Crie um conjunto de validação (holdout)

Crie dois conjuntos de holdout

Por que usar conjuntos de holdout

Métricas de acurácia: modelos de regressão

Erro absoluto médio

Erro quadrático médio

Desempenho em subconjuntos de dados

Métricas de classificação

Matrizes de confusão

Matrizes de confusão, novamente

Precisão vs. recall

O trade-off entre viés e variância

Erro por under/overfitting

Estou com underfitting?

Validation Basics

Holdout sets are a great start to model validation. However, using a single train and test set if often not enough. Cross-validation is considered the gold standard when it comes to validating model performance and is almost always used when tuning model hyper-parameters. This chapter focuses on performing cross-validation to validate model performance. 

The problems with holdout sets

Two samples

Potential problems

Cross-validation

scikit-learn's KFold()

Using KFold indices

sklearn's cross_val_score()

scikit-learn's methods

Implement cross_val_score()

Leave-one-out-cross-validation (LOOCV)

When to use LOOCV

Leave-one-out-cross-validation

Cross Validation

The first three chapters focused on model validation techniques. In chapter 4 we apply these techniques, specifically cross-validation, while learning about hyperparameter tuning. After all, model validation makes tuning possible and helps us select the overall best model. 

Introduction to hyperparameter tuning

Creating Hyperparameters

Running a model using ranges

RandomizedSearchCV

Preparing for RandomizedSearch

Implementing RandomizedSearchCV

Selecting your final model

Best classification accuracy

Selecting the best precision model

Course completed!

Selecting the best model with Hyperparameter tuning. 

Candy dataset

Tic-Tac-Toe dataset

Modelos de Machine Learning estão mais fáceis de implementar do que nunca. Sem a validação adequada, os resultados ao passar novos dados por um modelo podem não ser tão precisos quanto o esperado. A validação de modelos permite que analistas respondam com confiança à pergunta: quão bom é o seu modelo? Vamos responder a essa pergunta para modelos de classificação usando o conjunto completo de cenários de fim de jogo do tic-tac-toe e, para modelos de regressão, usando o conjunto de dados do ranking definitivo de doces de Halloween do fivethirtyeight. Neste curso, vamos abordar o básico de validação de modelos, discutir várias técnicas de validação e começar a desenvolver ferramentas para criar modelos validados e de alto desempenho.

Supervised Learning with scikit-learn

Aprenda o básico da validação de modelos e técnicas para criar modelos validados e eficazes.

Validação de Modelos em Python

Aprenda o básico sobre validação de modelos, técnicas de validação e comece a criar modelos validados e de alto desempenho.

Cientista de machine learning em Python

Por que usar conjuntos de holdout

Validação de Modelos em Python

exercicio interativo prático