Ajustarea hiperparametrilor pentru bagging

Deși poți construi cu ușurință un clasificator de tip bagging folosind parametrii impliciți, este recomandat să îi ajustezi pentru a obține performanțe optime. În mod ideal, aceștia ar trebui optimizați prin validare încrucișată K-fold.

În acest exercițiu, vom vedea dacă putem îmbunătăți performanța modelului modificând parametrii clasificatorului de tip bagging.

Aici transmitem și parametrul solver='liblinear' către LogisticRegression pentru a reduce timpul de calcul.

Acest exercițiu face parte din cursul

Metode de ansamblu în Python

Vezi cursul

Instrucțiuni pentru exercițiu

Construiește un clasificator de tip bagging folosind regresia logistică ca estimator de bază, cu 20 de estimatori de bază, maximum 10 caracteristici, maximum 0.65 (65%) eșantioane (max_samples) și eșantionare fără înlocuire.
Folosește clf_bag pentru a prezice etichetele setului de testare, X_test.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)

# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)

# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy:  {:.2f}'.format(accuracy_score(y_test, y_pred)))

# Print the classification report
print(classification_report(y_test, y_pred))

Editează și rulează codul