Ajuste de hiperparámetros de bagging
Aunque puedes crear fácilmente un clasificador de bagging con los parámetros por defecto, es muy recomendable ajustarlos para lograr un rendimiento óptimo. Idealmente, deberías optimizarlos usando validación cruzada K-fold.
En este ejercicio, vamos a ver si podemos mejorar el rendimiento del modelo modificando los parámetros del clasificador de bagging.
Aquí también pasamos el parámetro solver='liblinear' a LogisticRegression para reducir el tiempo de cómputo.
Este ejercicio forma parte del curso
Ensemble Methods in Python
Instrucciones del ejercicio
- Crea un clasificador de bagging usando como base la regresión logística, con
20estimadores base,10características máximas,0.65(65%) muestras máximas (max_samples) y muestreo sin reemplazo. - Usa
clf_bagpara predecir las etiquetas del conjunto de prueba,X_test.
ejercicio interactivo práctico
Prueba este ejercicio completando este código de ejemplo.
# Build a balanced logistic regression
clf_base = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
# Build and fit a bagging classifier with custom parameters
clf_bag = ____(____, ____, ____, ____, ____, random_state=500)
clf_bag.fit(X_train, y_train)
# Calculate predictions and evaluate the accuracy on the test set
y_pred = ____
print('Accuracy: {:.2f}'.format(accuracy_score(y_test, y_pred)))
# Print the classification report
print(classification_report(y_test, y_pred))