调优 Bagging 的超参数
虽然使用默认参数就能轻松构建一个 bagging 分类器,但强烈建议您对其进行调优,以获得最佳性能。理想情况下,应使用 K 折交叉验证来优化这些参数。
在本练习中,我们将通过修改 bagging 分类器的参数来看看能否提升模型表现。
这里我们还向 LogisticRegression 传入参数 solver='liblinear',以减少计算时间。
本练习是课程的一部分
Python 中的集成方法
练习说明
- 构建一个以逻辑回归为基学习器的 bagging 分类器,使用
20个基学习器,10个最大特征数,0.65(65%)的最大样本比例(max_samples),并且在不放回的情况下抽样。 - 使用
clf_bag对测试集X_test进行预测。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)
# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy: {:.2f}'.format(accuracy_score(y_test, y_pred)))
# Print the classification report
print(classification_report(y_test, y_pred))