Ensemblemodellen voor extra stemmen
Het LassoCV()-model selecteerde 22 van de 32 features. Niet slecht, maar ook geen spectaculaire dimensionaliteitsreductie. Laten we twee extra modellen gebruiken om met de Recursive Feature Eliminator (RFE) de 10 features te kiezen die zij het belangrijkst vinden.
De gestandaardiseerde trainings- en testdata zijn alvast voor je ingeladen als X_train, X_test, y_train en y_test.
Deze oefening maakt deel uit van de cursus
Dimensionality Reduction in Python
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
from sklearn.feature_selection import RFE
from sklearn.ensemble import GradientBoostingRegressor
# Select 10 features with RFE on a GradientBoostingRegressor, drop 3 features on each step
rfe_gb = RFE(estimator=____,
n_features_to_select=____, step=____, verbose=1)
rfe_gb.fit(X_train, y_train)