Регрессия AdaBoost на основе деревьев решений
Модели AdaBoost, как правило, строятся на основе деревьев решений в качестве базовых estimator-ов. Давайте попробуем этот подход и посмотрим, удастся ли ещё больше улучшить качество модели.
Мы будем использовать двенадцать estimator-ов, как и раньше, чтобы сравнение было корректным. Создавать экземпляр дерева решений отдельно не нужно — оно является базовым estimator-ом по умолчанию.
Это упражнение является частью курса
Ансамблевые методы в Python
Инструкции к упражнению
- Создайте и обучите
AdaBoostRegressor, используя12estimator-ов. Указывать базовый estimator не нужно. - Вычислите предсказания на тестовой выборке.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Build and fit a tree-based AdaBoost regressor
reg_ada = ____(____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))