Gradientförstärkt ensemble
Boosting är en teknik där felet från en prediktor skickas vidare som indata till nästa i en sekventiell process. Gradient Boosting använder gradientnedstigningsprocedur för att minimera log-förlusten för varje klassificeringsträd som läggs till ett i taget – träd som var och ett på egen hand är svaga beslutsmodeller. Gradient Boosting för regression fungerar på liknande sätt, men använder en förlustfunktion som medelkvadratfelet (MSE) tillämpad på gradientnedstigning.
I den här övningen skapar du en Gradient Boosting Classifier-modell och jämför dess prestanda med Random Forest från föregående övning, som hade ett noggrannhetspoäng på 72,5 %.
DataFrame:en loan_data har redan delats upp och finns tillgänglig i din arbetsyta som X_train, X_test, y_train och y_test.
Den här övningen är en del av kursen
Öva på maskininlärningsintervjufrågor i Python
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)