Definește clasificatorul de bagging

În exercițiile următoare vei lucra cu setul de date Indian Liver Patient din depozitul de învățare automată UCI. Sarcina ta este să prezici dacă un pacient suferă de o boală hepatică, folosind 10 caracteristici, printre care Albumina, vârsta și genul. Vei face acest lucru utilizând un BaggingClassifier.

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

Instrucțiuni pentru exercițiu

Importă DecisionTreeClassifier din sklearn.tree și BaggingClassifier din sklearn.ensemble.
Instanțiază un DecisionTreeClassifier numit dt.
Instanțiază un BaggingClassifier numit bc, format din 50 de arbori.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Import DecisionTreeClassifier
____

# Import BaggingClassifier
____

# Instantiate dt
dt = ____(random_state=1)

# Instantiate bc
bc = ____(base_estimator=____, n_estimators=____, random_state=1)

Editează și rulează codul

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

SkillTag.level.intermediateSkillTag.label

4.8+

Începe cursul gratuit

Arborii de clasificare și regresie (CART) sunt un set de modele de învățare supervizată utilizate pentru probleme de clasificare și regresie. În acest capitol, vei face cunoștință cu algoritmul CART.

Exercise 1: Arbore de decizie pentru clasificare Exercise 2: Antrenează primul tău arbore de clasificare Exercise 3: Evaluează arborele de clasificare Exercise 4: Regresie logistică vs. arbore de clasificare Exercise 5: Învățarea arborelui de clasificare Exercise 6: Creșterea unui arbore de clasificare Exercise 7: Utilizarea entropiei ca criteriu Exercise 8: Entropie vs. indicele Gini Exercise 9: Arbore de decizie pentru regresie Exercise 10: Antrenează primul tău arbore de regresie Exercise 11: Evaluează arborele de regresie Exercise 12: Regresie liniară vs. arbore de regresie

Compromisul dintre bias și varianță este unul dintre conceptele fundamentale în învățarea automată supervizată. În acest capitol, vei înțelege cum să diagnostichezi problemele de supraajustare și subajustare. Vei fi introdus și în conceptul de ansamblu, unde predicțiile mai multor modele sunt agregate pentru a produce predicții mai robuste.

Exercise 1: Eroarea de generalizare Exercise 2: Complexitate, bias și varianță Exercise 3: Supraajustare și subajustare Exercise 4: Diagnostichează problemele de bias și varianță Exercise 5: Instanțiază modelul Exercise 6: Evaluează eroarea prin validare încrucișată cu 10 iterații Exercise 7: Evaluează eroarea de antrenament Exercise 8: Bias ridicat sau varianță ridicată?Exercise 9: Învățare prin ansamblu Exercise 10: Definește ansamblul Exercise 11: Evaluează clasificatorii individuali Exercise 12: Performanță mai bună cu un Voting Classifier

Bagging este o metodă de ansamblu care presupune antrenarea aceluiași algoritm de mai multe ori, folosind subseturi diferite extrase din datele de antrenament. În acest capitol, vei înțelege cum poate fi folosit bagging pentru a crea un ansamblu de arbori. Vei învăța și cum algoritmul pădurilor aleatoare poate conduce la o diversitate mai mare a ansamblului prin randomizare la nivelul fiecărei împărțiri din arborii care formează ansamblul.

Exercise 1: Bagging Exercise 2: Definește clasificatorul de bagging

Exercițiul curent

Exercise 3: Evaluarea performanței Bagging Exercise 4: Evaluarea Out of Bag Exercise 5: Pregătește terenul Exercise 6: Scorul OOB vs. Scorul pe Setul de Testare Exercise 7: Păduri aleatoare (RF)Exercise 8: Antrenează un regressor RF Exercise 9: Evaluează regresorul RF Exercise 10: Vizualizarea importanței caracteristicilor

Boosting se referă la o metodă de ansamblu în care mai multe modele sunt antrenate secvențial, fiecare model învățând din erorile predecesorilor săi. În acest capitol, vei fi introdus în cele două metode de boosting: AdaBoost și Gradient Boosting.

Exercise 1: AdaBoost Exercise 2: Definește clasificatorul AdaBoost Exercise 3: Antrenează clasificatorul AdaBoost Exercise 4: Evaluează clasificatorul AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definește regressorul GB Exercise 7: Antrenează regresorul GB Exercise 8: Evaluează regresorul GB Exercise 9: Gradient Boosting Stochastic (SGB)Exercise 10: Regresie cu SGB Exercise 11: Antrenează regresorul SGB Exercise 12: Evaluează regresorul SGB

Hiperparametrii unui model de machine learning sunt parametri care nu sunt învățați din date. Aceștia trebuie setați înainte de a ajusta modelul pe setul de antrenament. În acest capitol, vei învăța cum să ajustezi hiperparametrii unui model bazat pe arbori folosind validarea încrucișată prin căutare pe grilă.

Exercise 1: Ajustarea hiperparametrilor unui CART Exercise 2: Hiperparametrii unui arbore de decizie Exercise 3: Definește grila de hiperparametri a arborelui Exercise 4: Caută arborele optimal Exercise 5: Evaluează arborele optim Exercise 6: Reglarea hiperparametrilor unui RF Exercise 7: Hiperparametrii pădurilor aleatoare Exercise 8: Definește grila de hiperparametri a RF Exercise 9: Caută pădurea optimă Exercise 10: Evaluează pădurea optimă Exercise 11: Felicitări!