Boosting
在上一個練習中,你以 bagging 開始接觸集成(ensemble)技術。在機器學習面試中,常會被要求嘗試或討論不只一種集成方法。
這裡你要練習 Boosting。Boosting 會用全部的資料來訓練每個學習器,但會對先前學習器誤分類的樣本給予更高權重,讓後續學習器在訓練時更關注這些樣本。這能降低模型的偏差(bias)。
所有需要的套件都已為你匯入:
pandas 作為 pd,sklearn.model_selection 的 train_test_split,sklearn.linear_model 的 accuracy_score,sklearn.linear_model 的 LogisticRegression,以及 sklearn.ensemble 的 BaggingClassifier 和 AdaBoostClassifier。
loan_data 的 DataFrame 已經分割為 X_train、X_test、y_train 和 y_test。
本練習屬於課程
用 Python 練習機器學習面試題
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Boosting model
boosted_model = ____(____=____, random_state=123)