勾配ブースティング・アンサンブル
Boostingは、ある予測器の誤差を次の予測器へ順番に引き渡して改善していく手法です。Gradient Boostingは、各イテレーションで弱学習器である分類木を1本ずつ追加しながら、勾配降下法で対数損失を最小化します。回帰に対するGradient Boostingも同様ですが、勾配降下に適用する損失関数として平均二乗誤差などを用います。
この演習では、Gradient Boosting Classifier を作成し、前の演習で作成した Random Forest(正解率は72.5%)と性能を比較します。
loan_data のデータフレームはすでに分割済みで、X_train、X_test、y_train、y_test としてワークスペースに用意されています。
この演習はコースの一部です
Pythonで学ぶMachine Learning面接対策
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)