Eroare din cauza sub/supra-antrenării

Setul de date despre bomboane este predispus la supra-antrenare (overfitting). Cu doar 85 de observații, dacă folosești 20% pentru setul de testare, pierzi o cantitate semnificativă de date valoroase care ar putea fi utilizate la antrenarea modelului. Imaginează-ți scenariul în care majoritatea bomboanelor cu ciocolată ajung în setul de antrenament, iar foarte puține în eșantionul de validare. Modelul ar putea doar să identifice ciocolata ca factor esențial, ratând alte atribute importante. În acest exercițiu, vei explora cum utilizarea prea multor caracteristici (coloane) într-un model de pădure aleatorie poate duce la supra-antrenare.

O caracteristică reprezintă coloanele din date folosite într-un arbore de decizie. Parametrul max_features limitează numărul de caracteristici disponibile.

Acest exercițiu face parte din cursul

Validarea modelelor în Python

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Update the rfr model
rfr = RandomForestRegressor(____=25,
                            ____=1111,
                            ____=2)
rfr.fit(X_train, y_train)

# Print the training and testing accuracies 
print('The training error is {0:.2f}'.format(
  mae(y_train, rfr.predict(X_train))))
print('The testing error is {0:.2f}'.format(
  mae(y_test, rfr.predict(X_test))))

Editează și rulează codul

Acest exercițiu face parte din cursul

Validarea modelelor în Python

SkillTag.level.intermediateSkillTag.label

4.9+

Începe cursul gratuit

Înainte de a putea valida modele, trebuie să înțelegem cum se creează și cum se lucrează cu ele. Acest capitol oferă o introducere în rularea modelelor de regresie și clasificare în scikit-learn. Această bază de construire a modelelor o vom folosi pe parcursul tuturor capitolelor următoare.

Exercise 1: Introducere în validarea modelelor Exercise 2: Pașii de modelare Exercise 3: Date văzute vs. date nevăzute Exercise 4: Modele de regresie Exercise 5: Setează parametrii și antrenează un model Exercise 6: Importanța atributelor Exercise 7: Modele de clasificare Exercise 8: Predicții de clasificare Exercise 9: Reutilizarea parametrilor modelului Exercise 10: Clasificator random forest

Acest capitol se concentrează pe noțiunile de bază ale validării modelelor. De la împărțirea datelor în seturi de antrenament, validare și testare, până la înțelegerea compromisului bias-varianță, construim fundația pentru tehnicile de validare K-Fold și Leave-One-Out practicate în capitolul trei.

Exercise 1: Crearea seturilor de date de antrenament, testare și validare Exercise 2: Creează un set de validare holdout Exercise 3: Creează două seturi de validare holdout Exercise 4: De ce să folosești seturi de excludere Exercise 5: Metrici de acuratețe: modele de regresie Exercise 6: Eroarea medie absolută Exercise 7: Eroarea medie pătratică Exercise 8: Performanța pe subseturi de date Exercise 9: Metrici de clasificare Exercise 10: Matrici de confuzie Exercise 11: Matrice de confuzie, din nou Exercise 12: Precizie vs. recuperare Exercise 13: Compromisul bias-varianță Exercise 14: Eroare din cauza sub/supra-antrenării

Exercițiul curent

Exercise 15: Subantrenez modelul?

Seturile de reținere reprezintă un bun punct de plecare pentru validarea modelelor. Totuși, utilizarea unui singur set de antrenament și testare nu este adesea suficientă. Validarea încrucișată este considerată standardul de aur în validarea performanței modelelor și este aproape întotdeauna folosită la ajustarea hiperparametrilor. Acest capitol se concentrează pe aplicarea validării încrucișate pentru a evalua performanța modelelor.

Exercise 1: Problemele cu seturile holdout Exercise 2: Două eșantioane Exercise 3: Probleme potențiale Exercise 4: Validare încrucișată Exercise 5: KFold() din scikit-learn Exercise 6: Folosirea indicilor KFold Exercise 7: cross_val_score() din sklearn Exercise 8: Metodele din scikit-learn Exercise 9: Implementează cross_val_score()Exercise 10: Validarea încrucișată cu excludere individuală (LOOCV)Exercise 11: Când să folosești LOOCV Exercise 12: Validare încrucișată leave-one-out

Primele trei capitole s-au axat pe tehnicile de validare a modelelor. În capitolul 4 aplicăm aceste tehnici – în special validarea încrucișată – în timp ce învățăm despre ajustarea hiperparametrilor. La urma urmei, validarea modelelor face posibilă ajustarea și ne ajută să selectăm cel mai bun model în ansamblu.

Exercise 1: Introducere în reglarea hiperparametrilor Exercise 2: Crearea hiperparametrilor Exercise 3: Rularea unui model cu intervale de valori Exercise 4: RandomizedSearchCV Exercise 5: Pregătirea pentru RandomizedSearch Exercise 6: Implementarea RandomizedSearchCV Exercise 7: Selectarea modelului final Exercise 8: Cea mai bună acuratețe de clasificare Exercise 9: Selectarea celui mai bun model bazat pe precizie Exercise 10: Curs finalizat!