Налаштування гіперпараметрів bagging
Хоча ви можете легко зібрати класифікатор bagging із параметрами за замовчуванням, настійно рекомендуємо їх налаштовувати, щоб досягти оптимальної якості. У ідеалі це слід робити за допомогою K-блочної перехресної перевірки.
У цій вправі перевіримо, чи зможемо ми покращити якість моделі, змінивши параметри класифікатора bagging.
Тут ми також передаємо параметр solver='liblinear' до LogisticRegression, щоб зменшити час обчислень.
Ця вправа є частиною курсу
Ансамблеві методи в Python
Інструкції до вправи
- Зберіть класифікатор bagging на основі логістичної регресії з
20базовими оцінювачами,10максимальними ознаками,0.65(65%) максимальних зразків (max_samples) і вибіркою без повернення. - Використайте
clf_bag, щоб передбачити мітки для тестової вибіркиX_test.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)
# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy: {:.2f}'.format(accuracy_score(y_test, y_pred)))
# Print the classification report
print(classification_report(y_test, y_pred))