Scorul OOB vs. Scorul pe Setul de Testare

Acum că ai instanțiat bc, îl vei antrena pe setul de antrenament și vei evalua acuratețea sa pe setul de testare, respectiv acuratețea OOB.

Setul de date a fost procesat și împărțit în 80% antrenament și 20% testare. Matricele de caracteristici X_train și X_test, precum și vectorii de etichete y_train și y_test sunt disponibili în spațiul tău de lucru. De asemenea, am încărcat clasificatorul bc instanțiat în exercițiul anterior și funcția accuracy_score() din sklearn.metrics.

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

Instrucțiuni pentru exercițiu

Antrenează bc pe setul de antrenament, prezice etichetele setului de testare și atribuie rezultatele variabilei y_pred.
Evaluează acuratețea pe setul de testare acc_test apelând accuracy_score.
Evaluează acuratețea OOB a lui bc, acc_oob, extragând atributul oob_score_ din bc.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Fit bc to the training set 
____.____(____, ____)

# Predict test set labels
y_pred = ____.____(____)

# Evaluate test set accuracy
acc_test = ____(____, ____)

# Evaluate OOB accuracy
acc_oob = ____.____

# Print acc_test and acc_oob
print('Test set accuracy: {:.3f}, OOB accuracy: {:.3f}'.format(acc_test, acc_oob))

Editează și rulează codul

Acest exercițiu face parte din cursul

Machine Learning cu modele bazate pe arbori în Python

SkillTag.level.intermediateSkillTag.label

4.8+

Începe cursul gratuit

Arborii de clasificare și regresie (CART) sunt un set de modele de învățare supervizată utilizate pentru probleme de clasificare și regresie. În acest capitol, vei face cunoștință cu algoritmul CART.

Exercise 1: Arbore de decizie pentru clasificare Exercise 2: Antrenează primul tău arbore de clasificare Exercise 3: Evaluează arborele de clasificare Exercise 4: Regresie logistică vs. arbore de clasificare Exercise 5: Învățarea arborelui de clasificare Exercise 6: Creșterea unui arbore de clasificare Exercise 7: Utilizarea entropiei ca criteriu Exercise 8: Entropie vs. indicele Gini Exercise 9: Arbore de decizie pentru regresie Exercise 10: Antrenează primul tău arbore de regresie Exercise 11: Evaluează arborele de regresie Exercise 12: Regresie liniară vs. arbore de regresie

Compromisul dintre bias și varianță este unul dintre conceptele fundamentale în învățarea automată supervizată. În acest capitol, vei înțelege cum să diagnostichezi problemele de supraajustare și subajustare. Vei fi introdus și în conceptul de ansamblu, unde predicțiile mai multor modele sunt agregate pentru a produce predicții mai robuste.

Exercise 1: Eroarea de generalizare Exercise 2: Complexitate, bias și varianță Exercise 3: Supraajustare și subajustare Exercise 4: Diagnostichează problemele de bias și varianță Exercise 5: Instanțiază modelul Exercise 6: Evaluează eroarea prin validare încrucișată cu 10 iterații Exercise 7: Evaluează eroarea de antrenament Exercise 8: Bias ridicat sau varianță ridicată?Exercise 9: Învățare prin ansamblu Exercise 10: Definește ansamblul Exercise 11: Evaluează clasificatorii individuali Exercise 12: Performanță mai bună cu un Voting Classifier

Bagging este o metodă de ansamblu care presupune antrenarea aceluiași algoritm de mai multe ori, folosind subseturi diferite extrase din datele de antrenament. În acest capitol, vei înțelege cum poate fi folosit bagging pentru a crea un ansamblu de arbori. Vei învăța și cum algoritmul pădurilor aleatoare poate conduce la o diversitate mai mare a ansamblului prin randomizare la nivelul fiecărei împărțiri din arborii care formează ansamblul.

Exercise 1: Bagging Exercise 2: Definește clasificatorul de bagging Exercise 3: Evaluarea performanței Bagging Exercise 4: Evaluarea Out of Bag Exercise 5: Pregătește terenul Exercise 6: Scorul OOB vs. Scorul pe Setul de Testare

Exercițiul curent

Exercise 7: Păduri aleatoare (RF)Exercise 8: Antrenează un regressor RF Exercise 9: Evaluează regresorul RF Exercise 10: Vizualizarea importanței caracteristicilor

Boosting se referă la o metodă de ansamblu în care mai multe modele sunt antrenate secvențial, fiecare model învățând din erorile predecesorilor săi. În acest capitol, vei fi introdus în cele două metode de boosting: AdaBoost și Gradient Boosting.

Exercise 1: AdaBoost Exercise 2: Definește clasificatorul AdaBoost Exercise 3: Antrenează clasificatorul AdaBoost Exercise 4: Evaluează clasificatorul AdaBoost Exercise 5: Gradient Boosting (GB)Exercise 6: Definește regressorul GB Exercise 7: Antrenează regresorul GB Exercise 8: Evaluează regresorul GB Exercise 9: Gradient Boosting Stochastic (SGB)Exercise 10: Regresie cu SGB Exercise 11: Antrenează regresorul SGB Exercise 12: Evaluează regresorul SGB

Hiperparametrii unui model de machine learning sunt parametri care nu sunt învățați din date. Aceștia trebuie setați înainte de a ajusta modelul pe setul de antrenament. În acest capitol, vei învăța cum să ajustezi hiperparametrii unui model bazat pe arbori folosind validarea încrucișată prin căutare pe grilă.

Exercise 1: Ajustarea hiperparametrilor unui CART Exercise 2: Hiperparametrii unui arbore de decizie Exercise 3: Definește grila de hiperparametri a arborelui Exercise 4: Caută arborele optimal Exercise 5: Evaluează arborele optim Exercise 6: Reglarea hiperparametrilor unui RF Exercise 7: Hiperparametrii pădurilor aleatoare Exercise 8: Definește grila de hiperparametri a RF Exercise 9: Caută pădurea optimă Exercise 10: Evaluează pădurea optimă Exercise 11: Felicitări!