Gradient boosting ensemble
Boosting je technika, při které se chyba jednoho prediktoru předává jako vstup dalšímu – a to postupně, v sekvenci. Gradient Boosting využívá postup gradientního sestupu k minimalizaci log loss pro každý přidávaný klasifikační strom, který je sám o sobě slabým rozhodovacím modelem. Gradient Boosting pro regresi funguje podobně, ale používá ztrátovou funkci, jako je střední kvadratická chyba aplikovaná na gradientní sestup.
V tomto cvičení vytvoříš model Gradient Boosting Classifier a porovnáš jeho výkon s modelem Random Forest z předchozího cvičení, který dosáhl přesnosti 72,5 %.
DataFrame loan_data je již rozdělený a dostupný v pracovním prostoru jako X_train, X_test, y_train a y_test.
Toto cvičení je součástí kurzu
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)