Ensemble gradient boosting
Boosting to technika, w której błąd jednego predyktora jest przekazywany jako dane wejściowe do następnego – w sposób sekwencyjny. Gradient Boosting wykorzystuje procedurę gradientu prostego (ang. gradient descent) w celu minimalizacji log loss dla każdego kolejno dodawanego drzewa klasyfikacyjnego, które samo w sobie jest słabym modelem decyzyjnym. Gradient Boosting dla regresji działa podobnie, ale korzysta z funkcji straty, takiej jak błąd średniokwadratowy (MSE), stosowanej w algorytmie gradientu prostego.
W tym ćwiczeniu stworzysz model Gradient Boosting Classifier i porównasz jego wydajność z modelem Random Forest z poprzedniego ćwiczenia, który osiągnął dokładność 72,5%.
Ramka danych loan_data została już podzielona i jest dostępna w obszarze roboczym jako X_train, X_test, y_train oraz y_test.
To ćwiczenie jest częścią kursu
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)