Ensemble con Gradient Boosting
Il boosting è una tecnica in cui l’errore di un predittore viene passato in sequenza come input al successivo. Il Gradient Boosting usa una procedura di discesa del gradiente per minimizzare la log loss per ciascun albero di classificazione aggiunto uno alla volta, che presi singolarmente sono modelli deboli. Il Gradient Boosting per la regressione è simile, ma usa una funzione di perdita come l’errore quadratico medio applicata alla discesa del gradiente.
In questo esercizio creerai un modello Gradient Boosting Classifier e ne confronterai le prestazioni con il Random Forest dell’esercizio precedente, che aveva un’accuratezza del 72,5%.
Il DataFrame loan_data è già stato suddiviso ed è disponibile nel tuo ambiente come X_train, X_test, y_train e y_test.
Questo esercizio fa parte del corso
Esercitarsi con le domande di colloquio di Machine Learning in Python
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)