做好準備
在接下來的練習中,你會比較以 Indian Liver Patient 資料集訓練出的 bagging 分類器,其 OOB 準確率與測試集準確率之間的差異。
在 sklearn 中,你可以在建立集成分類器時將參數 oob_score 設為 True,以評估 OOB 準確率。訓練完成後,可從該實例的 .oob_score_ 屬性取得 OOB 準確率。
在你的環境中,我們已提供來自 sklearn.tree 的 DecisionTreeClassifier 類別。
本練習屬於課程
Machine Learning with Tree-Based Models in Python
練習說明
從
sklearn.ensemble匯入BaggingClassifier。建立一個
DecisionTreeClassifier,並將min_samples_leaf設為 8。建立一個包含 50 棵樹的
BaggingClassifier,並將oob_score設為True。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Import DecisionTreeClassifier
from sklearn.tree import DecisionTreeClassifier
# Import BaggingClassifier
____
# Instantiate dt
dt = ____(min_samples_leaf=____, random_state=1)
# Instantiate bc
bc = ____(base_estimator=____,
n_estimators=____,
oob_score=____,
random_state=1)