Analiza najlepszych wyników

Na końcu dnia najbardziej zależy nam na tym, które „pole" w przeszukiwaniu siatki (grid search) wypadło najlepiej. Na szczęście obiekty gridSearchCv w Scikit Learn udostępniają szereg parametrów z kluczowymi informacjami dotyczącymi właśnie najlepszego pola (lub wiersza w cv_results_).

Trzy właściwości, które przeanalizujesz:

best_score_ – wynik (tutaj ROC_AUC) uzyskany przez najlepiej oceniane pole.
best_index_ – indeks wiersza w cv_results_ zawierającego informacje o najlepszym polu.
best_params_ – słownik parametrów, które dały najlepszy wynik, na przykład 'max_depth': 10

Obiekt przeszukiwania siatki grid_rf_class jest dostępny.

W wierszu 6 został już dla ciebie utworzony ramka danych (cv_results_df) na podstawie cv_results_. Pomoże ci ona w indeksowaniu wyników.

To ćwiczenie jest częścią kursu

Strojenie hiperparametrów w Pythonie

Instrukcje do ćwiczenia

Wyodrębnij i wyświetl wynik ROC_AUC z najlepiej ocenianego pola w grid_rf_class.
Utwórz zmienną z najlepszego wiersza, używając indeksowania w cv_results_df.
Utwórz zmienną best_n_estimators, wyodrębniając parametr n_estimators z najlepszego pola w grid_rf_class, a następnie wyświetl jej wartość.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Print out the ROC_AUC score from the best-performing square
best_score = grid_rf_class._____
print(best_score)

# Create a variable from the row related to the best-performing square
cv_results_df = pd.DataFrame(grid_rf_class.cv_results_)
best_row = cv_results_df.loc[[grid_rf_class.____]]
print(best_row)

# Get the n_estimators parameter from the best-performing square and print
best_n_estimators = grid_rf_class.____["_____"]
print(best_n_estimators)

Edytuj i uruchom kod

To ćwiczenie jest częścią kursu

Strojenie hiperparametrów w Pythonie

SkillTag.level.intermediateSkillTag.label

4.9+

Rozpocznij kurs za darmo

W tym rozdziale wprowadzającym poznasz różnicę między hiperparametrami a parametrami. Przećwiczysz wyodrębnianie i analizowanie parametrów oraz ustawianie wartości hiperparametrów dla kilku popularnych algorytmów uczenia maszynowego. Przy okazji poznasz sprawdzone wskazówki dotyczące wyboru hiperparametrów do strojenia, doboru ich wartości, a także tworzenia krzywych uczenia do analizy swoich wyborów.

Exercise 1: Wprowadzenie i „Parametry"Exercise 2: Parametry w regresji logistycznej Exercise 3: Wyodrębnianie parametru regresji logistycznej Exercise 4: Wyodrębnianie parametru modelu Random Forest Exercise 5: Wprowadzenie do hiperparametrów Exercise 6: Hiperparametry w lasach losowych Exercise 7: Odkrywanie hiperparametrów lasu losowego Exercise 8: Hiperparametry KNN Exercise 9: Ustawianie i analiza wartości hiperparametrów Exercise 10: Automatyzacja wyboru hiperparametrów Exercise 11: Budowanie krzywych uczenia

Ten rozdział zapozna cię z popularną metodą automatycznego strojenia hiperparametrów – przeszukiwaniem siatki. Dowiesz się, czym jest ta metoda i jak działa, a następnie przećwiczysz jej zastosowanie w Scikit-Learn. Nauczysz się też analizować wyniki przeszukiwania siatki i zdobędziesz praktyczne doświadczenie w tym zakresie.

Exercise 1: Wprowadzenie do przeszukiwania siatki Exercise 2: Tworzenie funkcji do przeszukiwania siatki Exercise 3: Iteracyjne dostrajanie wielu hiperparametrów Exercise 4: Ile modeli?Exercise 5: Grid Search z Scikit-Learn Exercise 6: Dane wejściowe GridSearchCV Exercise 7: GridSearchCV z biblioteką Scikit Learn Exercise 8: Interpretowanie wyników przeszukiwania siatki Exercise 9: Korzystanie z najlepszych wyników Exercise 10: Eksploracja wyników przeszukiwania siatki Exercise 11: Analiza najlepszych wyników

Bieżące ćwiczenie

Exercise 12: Wykorzystanie najlepszych wyników

W tym rozdziale poznasz kolejną popularną metodę automatycznego strojenia hiperparametrów – przeszukiwanie losowe. Dowiesz się, czym jest, jak działa i czym różni się od przeszukiwania siatki. Poznasz zalety i ograniczenia tej metody oraz nauczysz się, kiedy warto ją stosować zamiast przeszukiwania siatki. Przećwiczysz przeszukiwanie losowe w Scikit-Learn, a także wizualizację i interpretację jego wyników.

Exercise 1: Wprowadzenie do przeszukiwania losowego Exercise 2: Losowe próbkowanie hiperparametrów Exercise 3: Losowe przeszukiwanie z Random Forest Exercise 4: Wizualizacja przeszukiwania losowego Exercise 5: Random Search w Scikit Learn Exercise 6: Parametry wejściowe RandomSearchCV Exercise 7: Obiekt RandomizedSearchCV Exercise 8: RandomSearchCV w Scikit Learn Exercise 9: Porównanie przeszukiwania siatki i przeszukiwania losowego Exercise 10: Porównanie Random Search i Grid Search Exercise 11: Przeszukiwanie siatką i losowe – porównanie

W tym ostatnim rozdziale poznasz bardziej zaawansowane metody strojenia hiperparametrów, określane jako „przeszukiwanie ukierunkowane". Obejmują one podejście od ogółu do szczegółu (Coarse to Fine) oraz algorytmy bayesowskie i genetyczne. Dowiesz się, czym przeszukiwanie ukierunkowane różni się od nieukierunkowanego, i zdobędziesz praktyczne umiejętności korzystania z każdej z tych metod – porównując je ze sobą w trakcie nauki.

Exercise 1: Świadome przeszukiwanie: od ogółu do szczegółu Exercise 2: Wizualizacja podejścia Coarse to Fine Exercise 3: Iteracje od ogółu do szczegółu Exercise 4: Wyszukiwanie z użyciem informacji: statystyka bayesowska Exercise 5: Reguła Bayesa w Pythonie Exercise 6: Bayesowskie dostrajanie hiperparametrów z Hyperopt Exercise 7: Świadome przeszukiwanie: algorytmy genetyczne Exercise 8: Strojenie hiperparametrów algorytmem genetycznym z TPOT Exercise 9: Analiza stabilności TPOT Exercise 10: Gratulacje!