Ансамбль Gradient Boosting
Boosting — це техніка, у якій помилка одного прогнозувача послідовно передається як вхід до наступного. Gradient Boosting використовує процедуру градієнтного спуску, щоб мінімізувати log loss для кожного наступного дерева класифікації, яке додається по одному й окремо є слабкою моделлю рішень. Для регресії Gradient Boosting працює подібно, але застосовує до градієнтного спуску функцію втрат, наприклад середньоквадратичну помилку.
У цій вправі ви створите модель Gradient Boosting Classifier і порівняєте її якість із Random Forest з попередньої вправи, де точність становила 72,5%.
Датафрейм loan_data уже розділено; у вашому робочому середовищі доступні X_train, X_test, y_train та y_test.
Ця вправа є частиною курсу
Практика співбесід з Machine Learning у Python
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)