Boomgebaseerde AdaBoost-regressie
AdaBoost-modellen worden meestal gebouwd met beslissingsbomen als basisestimator. Laten we dat nu proberen en kijken of de modelprestatie nog verder verbetert.
We gebruiken, net als eerder, twaalf estimators voor een eerlijke vergelijking. Je hoeft de beslissingsboom niet te instantieren, want die is standaard de basisestimator.
Deze oefening maakt deel uit van de cursus
Ensemblemethoden in Python
Oefeninstructies
- Bouw en fit een
AdaBoostRegressormet12estimators. Je hoeft geen basisestimator op te geven. - Bereken de voorspellingen op de testset.
Interactieve oefening met praktijkervaring
Probeer deze oefening door deze voorbeeldcode aan te vullen.
# Build and fit a tree-based AdaBoost regressor
reg_ada = ____(____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))