Automatisk rekursiv särdragsurval
Nu ska vi automatisera den här rekursiva processen. Lägg till en rekursiv särdragsurvalsalgoritm (RFE) runt vår logistiska regressionsestimator och ange önskat antal särdrag.
Alla nödvändiga funktioner och paket har laddats in åt dig, och särdragen har skalats.
Den här övningen är en del av kursen
Dimensionsreduktion i Python
Övningsinstruktioner
- Skapa RFE med en
LogisticRegression()-estimator och ange att 3 särdrag ska väljas ut. - Skriv ut särdragen och deras rankning.
- Skriv ut de särdrag som inte har eliminerats.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Create the RFE with a LogisticRegression estimator and 3 features to select
rfe = ____(estimator=____, n_features_to_select=____, verbose=1)
# Fits the eliminator to the data
rfe.fit(X_train, y_train)
# Print the features and their ranking (high = dropped early on)
print(dict(zip(X.columns, rfe.____)))
# Print the features that are not eliminated
print(X.columns[rfe.____])
# Calculates the test set accuracy
acc = accuracy_score(y_test, rfe.predict(X_test))
print(f"{acc:.1%} accuracy on test set.")