MLP Grid Search
Hyperparametertuning kan in sklearn worden gedaan door verschillende invoerparameters op te geven, die elk kunnen worden samengesteld met functies uit numpy. Een methode die alle combinaties van opgegeven hyperparameters in param_grid uitputtend doorzoekt, is grid search. In deze oefening gebruik je grid search om de hyperparameters voor een MLP-classifier te doorlopen.
X_train, y_train, X_test, y_test zijn beschikbaar in je werkruimte, en de features zijn al gestandaardiseerd. pandas als pd en numpy als np zijn ook beschikbaar in je werkruimte.
Deze oefening maakt deel uit van de cursus
CTR voorspellen met Machine Learning in Python
Oefeninstructies
- Maak de lijst met waarden
[10, 20]voormax_iter, en een lijst met waarden[(8, ), (16, )]voorhidden_layer_sizes. - Stel een grid search in met 4 taken via
n_jobsom alle combinaties van hyperparameters te doorlopen. - Print de beste AUC-score en de beste estimator die tot deze score leidde.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Create list of hyperparameters
max_iter = [____, ____]
hidden_layer_sizes = [____, ____]
param_grid = {'max_iter': max_iter, 'hidden_layer_sizes': hidden_layer_sizes}
# Use Grid search CV to find best parameters using 4 jobs
mlp = ____
clf = ____(estimator = mlp, param_grid = ____,
scoring = 'roc_auc', ____ = 4)
clf.fit(X_train, y_train)
print("Best Score: ")
print(clf.____)
print("Best Estimator: ")
print(clf.____)