Automatische Recursive Feature Elimination
Laten we dit recursieve proces nu automatiseren. Wikkel een Recursive Feature Eliminator (RFE) om onze logistic regression-schatter en geef het gewenst aantal features door.
Alle benodigde functies en pakketten zijn al ingeladen en de features zijn voor je geschaald.
Deze oefening maakt deel uit van de cursus
Dimensionality Reduction in Python
Oefeninstructies
- Maak de RFE met een
LogisticRegression()-schatter en selecteer 3 features. - Print de features en hun ranking.
- Print de features die niet geëlimineerd zijn.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Create the RFE with a LogisticRegression estimator and 3 features to select
rfe = ____(estimator=____, n_features_to_select=____, verbose=1)
# Fits the eliminator to the data
rfe.fit(X_train, y_train)
# Print the features and their ranking (high = dropped early on)
print(dict(zip(X.columns, rfe.____)))
# Print the features that are not eliminated
print(X.columns[rfe.____])
# Calculates the test set accuracy
acc = accuracy_score(y_test, rfe.predict(X_test))
print(f"{acc:.1%} accuracy on test set.")