Finjustering av bagging-hyperparametrar
Det är enkelt att bygga en bagging-klassificerare med standardparametrar, men det rekommenderas starkt att du justerar dem för att uppnå bästa möjliga prestanda. Idealt sett bör detta optimeras med korsvalidering (K-fold).
I den här övningen undersöker vi om modellens prestanda kan förbättras genom att ändra parametrarna för bagging-klassificeraren.
Här skickar vi även in parametern solver='liblinear' till LogisticRegression för att minska beräkningstiden.
Den här övningen är en del av kursen
Ensemblemetoder i Python
Övningsinstruktioner
- Bygg en bagging-klassificerare med logistisk regression som basmodell,
20basestimatorer, maximalt10särdrag,0.65(65 %) maximalt antal sampel (max_samples), och sampling utan återläggning. - Använd
clf_bagför att prediktera etiketterna för testmängden,X_test.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)
# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy: {:.2f}'.format(accuracy_score(y_test, y_pred)))
# Print the classification report
print(classification_report(y_test, y_pred))