Căutare pe grilă
Ajustarea hiperparametrilor poate fi realizată cu sklearn, furnizând diverse valori de intrare, fiecare putând fi codificată prin funcții din numpy. O metodă de ajustare, care explorează exhaustiv toate combinațiile de hiperparametri specificate prin param_grid, este căutarea pe grilă (grid search). În acest exercițiu, vei folosi căutarea pe grilă pentru a explora hiperparametrii unui clasificator de tip random forest, folosind ca funcție de scor AUC-ul curbei ROC.
X_train, y_train, X_test, y_test sunt disponibile în spațiul tău de lucru. pandas ca pd, numpy ca np și sklearn sunt de asemenea disponibile. În plus, GridSearchCV() din sklearn.model_selection este disponibil.
Acest exercițiu face parte din cursul
Predicția CTR cu Machine Learning în Python
Instrucțiuni pentru exercițiu
- Creează lista de valori pentru fiecare hiperparametru:
n_estimatorsșimax_depth. - Creează un clasificator de tip random forest.
- Configurează o căutare pe grilă pentru a itera peste toate combinațiile de hiperparametri.
- Afișează cel mai bun scor AUC folosind
.best_score_și cel mai bun estimator care a condus la acest scor folosind.best_estimator_.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Create list of hyperparameters
n_estimators = [10, 50]
max_depth = [5, 20]
param_grid = {'n_estimators': ____, 'max_depth': ____}
# Use Grid search CV to find best parameters
print("starting RF grid search.. ")
rf = ____()
clf = ____(estimator = rf, param_grid = ____, scoring = 'roc_auc')
clf.fit(X_train, y_train)
print("Best Score: ")
print(clf.____)
print("Best Estimator: ")
print(clf.____)