使用 mlxtend 的第一次嘗試
現在開始使用 mlxtend 吧!你會繼續使用應用程式評分資料集。你已經用 scikit-learn 建立過一個堆疊式集成模型,接下來要用 mlxtend 建立模型,並與先前的結果比較。
資料集已載入為 apps,可直接使用。
來看看 mlxtend 是否能建立與 scikit-learn 集成分類器一樣好,或甚至更好的模型。
本練習屬於課程
Python 的 Ensemble 方法
練習說明
- 建立一個決策樹分類器,設定
min_samples_leaf = 3與min_samples_split = 9。 - 建立一個 5-近鄰分類器,使用
'ball_tree'演算法。 - 建立
StackingClassifier,傳入:分類器清單、後設分類器、use_probas=True(使用機率)、以及use_features_in_secondary = False(僅使用個別模型的預測)。 - 透過計算 accuracy 來評估效能。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Instantiate the first-layer classifiers
clf_dt = ____(____, ____, random_state=500)
clf_knn = ____
# Instantiate the second-layer meta classifier
clf_meta = LogisticRegression()
# Build the Stacking classifier
clf_stack = ____
clf_stack.____
# Evaluate the performance of the Stacking classifier
pred_stack = ____
print("Accuracy: {:0.4f}".format(accuracy_score(y_test, pred_stack)))