Utilizarea entropiei ca criteriu

În acest exercițiu, vei antrena un arbore de clasificare pe setul de date Wisconsin Breast Cancer, folosind entropia ca criteriu de informație. Vei utiliza toate cele 30 de caracteristici din set, care este împărțit în 80% antrenament și 20% testare.

X_train, precum și array-ul de etichete y_train sunt disponibile în spațiul tău de lucru.

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

Instrucțiuni pentru exercițiu

Importă DecisionTreeClassifier din sklearn.tree.
Instanțiază un DecisionTreeClassifier numit dt_entropy cu o adâncime maximă de 8.
Setează criteriul de informație la 'entropy'.
Antrenează dt_entropy pe setul de antrenament.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Import DecisionTreeClassifier from sklearn.tree
from ____.____ import ____

# Instantiate dt_entropy, set 'entropy' as the information criterion
dt_entropy = ____(____=____, ____='____', random_state=1)

# Fit dt_entropy to the training set
____.____(____, ____)

Editează și rulează codul

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

SkillTag.level.intermediateSkillTag.label

4.8+

Începe cursul gratuit

Arborii de clasificare și regresie (CART) sunt un set de modele de învățare supervizată utilizate pentru probleme de clasificare și regresie. În acest capitol, vei face cunoștință cu algoritmul CART.

Exercise 1: Arbore de decizie pentru clasificare Exercise 2: Antrenează primul tău arbore de clasificare Exercise 3: Evaluează arborele de clasificare Exercise 4: Regresie logistică vs. arbore de clasificare Exercise 5: Învățarea arborelui de clasificare Exercise 6: Creșterea unui arbore de clasificare Exercise 7: Utilizarea entropiei ca criteriu

Exercițiul curent

Exercise 8: Entropie vs. indicele Gini Exercise 9: Arbore de decizie pentru regresie Exercise 10: Antrenează primul tău arbore de regresie Exercise 11: Evaluează arborele de regresie Exercise 12: Regresie liniară vs. arbore de regresie

Compromisul dintre bias și varianță este unul dintre conceptele fundamentale în învățarea automată supervizată. În acest capitol, vei înțelege cum să diagnostichezi problemele de supraajustare și subajustare. Vei fi introdus și în conceptul de ansamblu, unde predicțiile mai multor modele sunt agregate pentru a produce predicții mai robuste.

Exercise 1: Eroarea de generalizare Exercise 2: Complexitate, bias și varianță Exercise 3: Supraajustare și subajustare Exercise 4: Diagnostichează problemele de bias și varianță Exercise 5: Instanțiază modelul Exercise 6: Evaluează eroarea prin validare încrucișată cu 10 iterații Exercise 7: Evaluează eroarea de antrenament Exercise 8: Bias ridicat sau varianță ridicată?Exercise 9: Învățare prin ansamblu Exercise 10: Definește ansamblul Exercise 11: Evaluează clasificatorii individuali Exercise 12: Performanță mai bună cu un Voting Classifier

Bagging este o metodă de ansamblu care presupune antrenarea aceluiași algoritm de mai multe ori, folosind subseturi diferite extrase din datele de antrenament. În acest capitol, vei înțelege cum poate fi folosit bagging pentru a crea un ansamblu de arbori. Vei învăța și cum algoritmul pădurilor aleatoare poate conduce la o diversitate mai mare a ansamblului prin randomizare la nivelul fiecărei împărțiri din arborii care formează ansamblul.

Exercise 1: Bagging Exercise 2: Definește clasificatorul de bagging Exercise 3: Evaluarea performanței Bagging Exercise 4: Evaluarea Out of Bag Exercise 5: Pregătește terenul Exercise 6: Scorul OOB vs. Scorul pe Setul de Testare Exercise 7: Păduri aleatoare (RF)Exercise 8: Antrenează un regressor RF Exercise 9: Evaluează regresorul RF Exercise 10: Vizualizarea importanței caracteristicilor

Boosting se referă la o metodă de ansamblu în care mai multe modele sunt antrenate secvențial, fiecare model învățând din erorile predecesorilor săi. În acest capitol, vei fi introdus în cele două metode de boosting: AdaBoost și Gradient Boosting.

Exercise 1: AdaBoost Exercise 2: Definește clasificatorul AdaBoost Exercise 3: Antrenează clasificatorul AdaBoost Exercise 4: Evaluează clasificatorul AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definește regressorul GB Exercise 7: Antrenează regresorul GB Exercise 8: Evaluează regresorul GB Exercise 9: Gradient Boosting Stochastic (SGB)Exercise 10: Regresie cu SGB Exercise 11: Antrenează regresorul SGB Exercise 12: Evaluează regresorul SGB

Hiperparametrii unui model de machine learning sunt parametri care nu sunt învățați din date. Aceștia trebuie setați înainte de a ajusta modelul pe setul de antrenament. În acest capitol, vei învăța cum să ajustezi hiperparametrii unui model bazat pe arbori folosind validarea încrucișată prin căutare pe grilă.

Exercise 1: Ajustarea hiperparametrilor unui CART Exercise 2: Hiperparametrii unui arbore de decizie Exercise 3: Definește grila de hiperparametri a arborelui Exercise 4: Caută arborele optimal Exercise 5: Evaluează arborele optim Exercise 6: Reglarea hiperparametrilor unui RF Exercise 7: Hiperparametrii pădurilor aleatoare Exercise 8: Definește grila de hiperparametri a RF Exercise 9: Caută pădurea optimă Exercise 10: Evaluează pădurea optimă Exercise 11: Felicitări!