Ансамбль на основе градиентного бустинга
Бустинг — это метод, при котором ошибка одного предсказателя последовательно передаётся на вход следующему. Градиентный бустинг использует процедуру градиентного спуска для минимизации логистических потерь при добавлении каждого нового классификационного дерева. Каждое отдельное дерево является слабой моделью принятия решений. Для задач регрессии градиентный бустинг работает аналогично, но в качестве функции потерь применяется, например, среднеквадратичная ошибка.
В этом упражнении вы создадите модель классификатора на основе градиентного бустинга и сравните её производительность с моделью случайного леса из предыдущего упражнения, которая показала точность 72,5%.
Дата фрейм loan_data уже разбит на части и доступен в вашем рабочем пространстве в виде X_train, X_test, y_train и y_test.
Это упражнение является частью курса
Практика вопросов интервью по машинному обучению на Python
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)