Регресія AdaBoost на основі дерев
Моделі AdaBoost зазвичай будують із деревами рішень як базовими оцінювачами. Спробуймо це зараз і подивімося, чи покращиться якість моделі ще більше.
Використаємо дванадцять оцінювачів, як і раніше, щоб коректно порівняти результати. Немає потреби створювати дерево рішень окремо — воно є базовим оцінювачем за замовчуванням.
Ця вправа є частиною курсу
Ансамблеві методи в Python
Інструкції до вправи
- Побудуйте та навчіть
AdaBoostRegressor, використовуючи12оцінювачів. Вам не потрібно вказувати базовий алгоритм. - Обчисліть прогнози на тестовій вибірці.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Build and fit a tree-based AdaBoost regressor
reg_ada = ____(____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))