Bagging 하이퍼파라미터 튜닝
기본 매개변수만으로도 bagging 분류기를 쉽게 만들 수 있지만, 최적의 성능을 내기 위해서는 튜닝을 권장해요. 이상적으로는 K-겹 교차 검증으로 최적화하는 것이 좋아요.
이번 연습에서는 bagging 분류기의 매개변수를 바꿔서 모델 성능을 개선할 수 있는지 확인해 봅시다.
또한 계산 시간을 줄이기 위해 LogisticRegression에 solver='liblinear' 매개변수를 전달해요.
이 연습은 강의의 일부입니다
Python에서의 앙상블 기법
연습 안내
- 로지스틱 회귀를 기본 학습기로 사용하는 bagging 분류기를 만들고, 기본 추정기 수는
20, 최대 특성 수는10, 최대 샘플 비율(max_samples)은0.65(65%), 샘플은 복원 없이 추출하세요. clf_bag을 사용해 테스트 세트X_test의 레이블을 예측하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)
# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy: {:.2f}'.format(accuracy_score(y_test, y_pred)))
# Print the classification report
print(classification_report(y_test, y_pred))