Dostrajanie hiperparametrów baggingu

Klasyfikator baggingowy można łatwo zbudować, korzystając z domyślnych parametrów – jednak aby osiągnąć optymalną wydajność, zdecydowanie warto je dostroić. Najlepiej robić to za pomocą k-krotnej walidacji krzyżowej.

W tym ćwiczeniu sprawdź, czy możliwe jest poprawienie wyników modelu przez zmianę parametrów klasyfikatora baggingowego.

Do LogisticRegression przekazujemy tu również parametr solver='liblinear', aby skrócić czas obliczeń.

To ćwiczenie jest częścią kursu

Metody zespołowe w Pythonie

Zobacz kurs

Instrukcje do ćwiczenia

Zbuduj klasyfikator baggingowy, używając regresji logistycznej jako estymatora bazowego, z 20 estymatorami bazowymi, 10 maksymalnymi cechami, 0.65 (65%) maksymalną liczbą próbek (max_samples) i próbkowaniem bez zwracania.
Użyj clf_bag, aby przewidzieć etykiety dla zbioru testowego X_test.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)

# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)

# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy:  {:.2f}'.format(accuracy_score(y_test, y_pred)))

# Print the classification report
print(classification_report(y_test, y_pred))

Edytuj i uruchom kod