梯度提升整合模型
Boosting 是一種技巧,會依序將前一個預測器的錯誤當作下一個預測器的輸入。Gradient Boosting 使用梯度下降程序,逐一加入分類樹時,最小化對數損失;單獨看時,這些樹都是較弱的決策模型。用於迴歸的 Gradient Boosting 也很類似,但會在梯度下降上使用如均方誤差之類的損失函式。
在這個練習中,你將建立一個 Gradient Boosting 分類器模型,並將其效能與前一個練習中的 Random Forest 比較;該模型的準確率為 72.5%。
loan_data 的 DataFrame 已經切分完畢,並以 X_train、X_test、y_train 和 y_test 的形式提供在你的工作環境中。
本練習屬於課程
用 Python 練習機器學習面試題
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)