Validare încrucișată leave-one-out

Să presupunem că bomboanele tale preferate nu se află în setul de date și că ești interesat(ă) de popularitatea lor. Validarea încrucișată cu 5 iterații antrenează modelul pe doar 80% din date la un moment dat. Setul de date are doar 85 de rânduri, așa că excluderea a 20% din date ar putea afecta modelul. Validarea încrucișată leave-one-out (LOOCV) îți permite să valorifici la maximum datele limitate disponibile și îți oferă cea mai bună estimare a popularității bomboanelor tale preferate!

În acest exercițiu, vei folosi cross_val_score() pentru a efectua LOOCV.

Acest exercițiu face parte din cursul

Validarea modelelor în Python

Instrucțiuni pentru exercițiu

Creează un scorer folosind mean_absolute_error pentru cross_val_score().
Completează cross_val_score() astfel încât să fie utilizate modelul rfr, mae_scorer definit anterior și LOOCV.
Afișează media și deviația standard ale scores folosind numpy (importat ca np).

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

from sklearn.metrics import mean_absolute_error, make_scorer

# Create scorer
mae_scorer = ____(____)

rfr = RandomForestRegressor(n_estimators=15, random_state=1111)

# Implement LOOCV
scores = cross_val_score(____, X=X, y=y, cv=____, scoring=____)

# Print the mean and standard deviation
print("The mean of the errors is: %s." % np.____(____))
print("The standard deviation of the errors is: %s." % np.____(____))

Editează și rulează codul

Acest exercițiu face parte din cursul

Validarea modelelor în Python

SkillTag.level.intermediateSkillTag.label

4.9+

Începe cursul gratuit

Înainte de a putea valida modele, trebuie să înțelegem cum se creează și cum se lucrează cu ele. Acest capitol oferă o introducere în rularea modelelor de regresie și clasificare în scikit-learn. Această bază de construire a modelelor o vom folosi pe parcursul tuturor capitolelor următoare.

Exercise 1: Introducere în validarea modelelor Exercise 2: Pașii de modelare Exercise 3: Date văzute vs. date nevăzute Exercise 4: Modele de regresie Exercise 5: Setează parametrii și antrenează un model Exercise 6: Importanța atributelor Exercise 7: Modele de clasificare Exercise 8: Predicții de clasificare Exercise 9: Reutilizarea parametrilor modelului Exercise 10: Clasificator random forest

Acest capitol se concentrează pe noțiunile de bază ale validării modelelor. De la împărțirea datelor în seturi de antrenament, validare și testare, până la înțelegerea compromisului bias-varianță, construim fundația pentru tehnicile de validare K-Fold și Leave-One-Out practicate în capitolul trei.

Exercise 1: Crearea seturilor de date de antrenament, testare și validare Exercise 2: Creează un set de validare holdout Exercise 3: Creează două seturi de validare holdout Exercise 4: De ce să folosești seturi de excludere Exercise 5: Metrici de acuratețe: modele de regresie Exercise 6: Eroarea medie absolută Exercise 7: Eroarea medie pătratică Exercise 8: Performanța pe subseturi de date Exercise 9: Metrici de clasificare Exercise 10: Matrici de confuzie Exercise 11: Matrice de confuzie, din nou Exercise 12: Precizie vs. recuperare Exercise 13: Compromisul bias-varianță Exercise 14: Eroare din cauza sub/supra-antrenării Exercise 15: Subantrenez modelul?

Seturile de reținere reprezintă un bun punct de plecare pentru validarea modelelor. Totuși, utilizarea unui singur set de antrenament și testare nu este adesea suficientă. Validarea încrucișată este considerată standardul de aur în validarea performanței modelelor și este aproape întotdeauna folosită la ajustarea hiperparametrilor. Acest capitol se concentrează pe aplicarea validării încrucișate pentru a evalua performanța modelelor.

Exercise 1: Problemele cu seturile holdout Exercise 2: Două eșantioane Exercise 3: Probleme potențiale Exercise 4: Validare încrucișată Exercise 5: KFold() din scikit-learn Exercise 6: Folosirea indicilor KFold Exercise 7: cross_val_score() din sklearn Exercise 8: Metodele din scikit-learn Exercise 9: Implementează cross_val_score()Exercise 10: Validarea încrucișată cu excludere individuală (LOOCV)Exercise 11: Când să folosești LOOCV Exercise 12: Validare încrucișată leave-one-out

Exercițiul curent

Primele trei capitole s-au axat pe tehnicile de validare a modelelor. În capitolul 4 aplicăm aceste tehnici – în special validarea încrucișată – în timp ce învățăm despre ajustarea hiperparametrilor. La urma urmei, validarea modelelor face posibilă ajustarea și ne ajută să selectăm cel mai bun model în ansamblu.

Exercise 1: Introducere în reglarea hiperparametrilor Exercise 2: Crearea hiperparametrilor Exercise 3: Rularea unui model cu intervale de valori Exercise 4: RandomizedSearchCV Exercise 5: Pregătirea pentru RandomizedSearch Exercise 6: Implementarea RandomizedSearchCV Exercise 7: Selectarea modelului final Exercise 8: Cea mai bună acuratețe de clasificare Exercise 9: Selectarea celui mai bun model bazat pe precizie Exercise 10: Curs finalizat!