Regresja AdaBoost oparta na drzewach
Modele AdaBoost są zazwyczaj budowane z użyciem drzew decyzyjnych jako estymatorów bazowych. Wypróbujmy to teraz i sprawdźmy, czy wydajność modelu jeszcze bardziej wzrośnie.
Użyjemy dwunastu estymatorów – tak jak poprzednio – aby zapewnić uczciwe porównanie. Nie ma potrzeby tworzenia instancji drzewa decyzyjnego, ponieważ jest ono domyślnym estymatorem bazowym.
To ćwiczenie jest częścią kursu
Metody zespołowe w Pythonie
Instrukcje do ćwiczenia
- Zbuduj i dopasuj
AdaBoostRegressorużywający12estymatorów. Nie musisz podawać estymatora bazowego. - Oblicz predykcje na zbiorze testowym.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Build and fit a tree-based AdaBoost regressor
reg_ada = ____(____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))