Bias ridicat sau varianță ridicată?

În acest exercițiu vei diagnostica dacă arborele de regresie dt, antrenat în exercițiul anterior, suferă de o problemă de bias sau de varianță.

Eroarea RMSE pe setul de antrenament (RMSE_train) și RMSE-ul obținut prin validare încrucișată (RMSE_CV) de către dt sunt disponibile în spațiul tău de lucru. În plus, am încărcat și o variabilă numită baseline_RMSE, care corespunde erorii medii pătratice obținute de arborele de regresie antrenat doar cu caracteristica disp (este RMSE-ul obținut de arborele de regresie antrenat în capitolul 1, lecția 3). Aici, baseline_RMSE servește drept valoare de referință: un model cu RMSE mai mare decât aceasta este considerat subantrenat (underfitting), iar unul cu RMSE mai mic este considerat suficient de bun.

Suferă dt de o problemă de bias ridicat sau de varianță ridicată?

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

Exercițiu interactiv practic

Transformă teoria în practică cu unul dintre exercițiile noastre interactive

Începe exercițiul

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

SkillTag.level.intermediateSkillTag.label

4.8+

Începe cursul gratuit

Arborii de clasificare și regresie (CART) sunt un set de modele de învățare supervizată utilizate pentru probleme de clasificare și regresie. În acest capitol, vei face cunoștință cu algoritmul CART.

Exercise 1: Arbore de decizie pentru clasificare Exercise 2: Antrenează primul tău arbore de clasificare Exercise 3: Evaluează arborele de clasificare Exercise 4: Regresie logistică vs. arbore de clasificare Exercise 5: Învățarea arborelui de clasificare Exercise 6: Creșterea unui arbore de clasificare Exercise 7: Utilizarea entropiei ca criteriu Exercise 8: Entropie vs. indicele Gini Exercise 9: Arbore de decizie pentru regresie Exercise 10: Antrenează primul tău arbore de regresie Exercise 11: Evaluează arborele de regresie Exercise 12: Regresie liniară vs. arbore de regresie

Compromisul dintre bias și varianță este unul dintre conceptele fundamentale în învățarea automată supervizată. În acest capitol, vei înțelege cum să diagnostichezi problemele de supraajustare și subajustare. Vei fi introdus și în conceptul de ansamblu, unde predicțiile mai multor modele sunt agregate pentru a produce predicții mai robuste.

Exercise 1: Eroarea de generalizare Exercise 2: Complexitate, bias și varianță Exercise 3: Supraajustare și subajustare Exercise 4: Diagnostichează problemele de bias și varianță Exercise 5: Instanțiază modelul Exercise 6: Evaluează eroarea prin validare încrucișată cu 10 iterații Exercise 7: Evaluează eroarea de antrenament Exercise 8: Bias ridicat sau varianță ridicată?

Exercițiul curent

Exercise 9: Învățare prin ansamblu Exercise 10: Definește ansamblul Exercise 11: Evaluează clasificatorii individuali Exercise 12: Performanță mai bună cu un Voting Classifier

Bagging este o metodă de ansamblu care presupune antrenarea aceluiași algoritm de mai multe ori, folosind subseturi diferite extrase din datele de antrenament. În acest capitol, vei înțelege cum poate fi folosit bagging pentru a crea un ansamblu de arbori. Vei învăța și cum algoritmul pădurilor aleatoare poate conduce la o diversitate mai mare a ansamblului prin randomizare la nivelul fiecărei împărțiri din arborii care formează ansamblul.

Exercise 1: Bagging Exercise 2: Definește clasificatorul de bagging Exercise 3: Evaluarea performanței Bagging Exercise 4: Evaluarea Out of Bag Exercise 5: Pregătește terenul Exercise 6: Scorul OOB vs. Scorul pe Setul de Testare Exercise 7: Păduri aleatoare (RF)Exercise 8: Antrenează un regressor RF Exercise 9: Evaluează regresorul RF Exercise 10: Vizualizarea importanței caracteristicilor

Boosting se referă la o metodă de ansamblu în care mai multe modele sunt antrenate secvențial, fiecare model învățând din erorile predecesorilor săi. În acest capitol, vei fi introdus în cele două metode de boosting: AdaBoost și Gradient Boosting.

Exercise 1: AdaBoost Exercise 2: Definește clasificatorul AdaBoost Exercise 3: Antrenează clasificatorul AdaBoost Exercise 4: Evaluează clasificatorul AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definește regressorul GB Exercise 7: Antrenează regresorul GB Exercise 8: Evaluează regresorul GB Exercise 9: Gradient Boosting Stochastic (SGB)Exercise 10: Regresie cu SGB Exercise 11: Antrenează regresorul SGB Exercise 12: Evaluează regresorul SGB

Hiperparametrii unui model de machine learning sunt parametri care nu sunt învățați din date. Aceștia trebuie setați înainte de a ajusta modelul pe setul de antrenament. În acest capitol, vei învăța cum să ajustezi hiperparametrii unui model bazat pe arbori folosind validarea încrucișată prin căutare pe grilă.

Exercise 1: Ajustarea hiperparametrilor unui CART Exercise 2: Hiperparametrii unui arbore de decizie Exercise 3: Definește grila de hiperparametri a arborelui Exercise 4: Caută arborele optimal Exercise 5: Evaluează arborele optim Exercise 6: Reglarea hiperparametrilor unui RF Exercise 7: Hiperparametrii pădurilor aleatoare Exercise 8: Definește grila de hiperparametri a RF Exercise 9: Caută pădurea optimă Exercise 10: Evaluează pădurea optimă Exercise 11: Felicitări!