用 mlxtend 的首次尝试
现在开始使用 mlxtend 吧!您将继续使用应用评分数据集。您已经用 scikit-learn 构建过一个堆叠集成模型,可以据此与您即将用 mlxtend 搭建的模型进行对比。
数据集已加载为 apps,可直接使用。
让我们看看,mlxtend 能否构建出不逊于,甚至优于 scikit-learn 集成分类器的模型。
本练习是课程的一部分
Python 中的集成方法
练习说明
- 实例化一个决策树分类器,设置
min_samples_leaf = 3和min_samples_split = 9。 - 实例化一个 5-近邻分类器,使用
'ball_tree'算法。 - 构建一个
StackingClassifier,传入:分类器列表、元分类器,设置use_probas=True(使用概率)以及use_features_in_secondary = False(仅使用各基模型的预测)。 - 通过计算准确率来评估模型表现。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Instantiate the first-layer classifiers
clf_dt = ____(____, ____, random_state=500)
clf_knn = ____
# Instantiate the second-layer meta classifier
clf_meta = LogisticRegression()
# Build the Stacking classifier
clf_stack = ____
clf_stack.____
# Evaluate the performance of the Stacking classifier
pred_stack = ____
print("Accuracy: {:0.4f}".format(accuracy_score(y_test, pred_stack)))