Boomgebaseerde AdaBoost-regressie
AdaBoost-modellen worden meestal gebouwd met beslissingsbomen als basisestimator. Laten we dat nu proberen en kijken of de modelprestatie nog verder verbetert.
We gebruiken, net als eerder, twaalf estimators voor een eerlijke vergelijking. Je hoeft de beslissingsboom niet te instantieren, want die is standaard de basisestimator.
Deze oefening maakt deel uit van de cursus
Ensemblemethoden in Python
Oefeninstructies
- Bouw en fit een
AdaBoostRegressormet12estimators. Je hoeft geen basisestimator op te geven. - Bereken de voorspellingen op de testset.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Build and fit a tree-based AdaBoost regressor
reg_ada = ____(____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))