Przeszukiwanie siatki dla MLP
Dostrajanie hiperparametrów można przeprowadzić w sklearn, podając różne wartości parametrów wejściowych – każdy z nich można zdefiniować przy użyciu funkcji z biblioteki numpy. Jedną z metod dostrajania jest przeszukiwanie siatki (grid search), które sprawdza wszystkie kombinacje hiperparametrów podanych w param_grid. W tym ćwiczeniu użyjesz przeszukiwania siatki do optymalizacji hiperparametrów klasyfikatora MLP.
W środowisku pracy dostępne są: X_train, y_train, X_test, y_test – cechy zostały już zestandaryzowane. Dostępne są również pandas jako pd oraz numpy jako np.
To ćwiczenie jest częścią kursu
Przewidywanie CTR z użyciem uczenia maszynowego w Pythonie
Instrukcje do ćwiczenia
- Utwórz listę wartości
[10, 20]dlamax_iteroraz listę wartości[(8, ), (16, )]dlahidden_layer_sizes. - Skonfiguruj przeszukiwanie siatki z 4 zadaniami, używając
n_jobs, aby przejść przez wszystkie kombinacje hiperparametrów. - Wyświetl najlepszy wynik AUC oraz najlepszy estymator, który go osiągnął.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Create list of hyperparameters
max_iter = [____, ____]
hidden_layer_sizes = [____, ____]
param_grid = {'max_iter': max_iter, 'hidden_layer_sizes': hidden_layer_sizes}
# Use Grid search CV to find best parameters using 4 jobs
mlp = ____
clf = ____(estimator = mlp, param_grid = ____,
scoring = 'roc_auc', ____ = 4)
clf.fit(X_train, y_train)
print("Best Score: ")
print(clf.____)
print("Best Estimator: ")
print(clf.____)