1. Nauka
    2. /
  2. Kursy
    3. /
  3. Strojenie hiperparametrów w Pythonie
Connected

ćwiczenie

Bayesowskie dostrajanie hiperparametrów z Hyperopt

W tym ćwiczeniu skonfigurujesz i uruchomisz bayesowski proces optymalizacji hiperparametrów z użyciem pakietu Hyperopt (zaimportowanego już jako hp). Najpierw zdefiniujesz przestrzeń przeszukiwań (podobnie jak siatkę w grid search), potem funkcję celu, a na końcu uruchomisz optymalizator na 20 iteracjach.

Przestrzeń przeszukiwań zdefiniuj przy użyciu następujących wartości:

  • max_depth – rozkład quniform (od 2 do 10, z krokiem 2)
  • learning_rate – rozkład uniform (od 0,001 do 0,9)

Uwaga: na potrzeby tego ćwiczenia zmniejszono rozmiar próbki danych oraz liczbę iteracji Hyperopt i GBM. Jeśli chcesz samodzielnie wypróbować tę metodę na własnym komputerze, użyj większej przestrzeni przeszukiwań, większej liczby prób, foldów walidacji krzyżowej i większego zbioru danych – żeby naprawdę zobaczyć tę metodę w działaniu!

Instrukcje

100 XP
  • Zdefiniuj słownik space, korzystając z opisanej powyżej przestrzeni przeszukiwań.
  • Skonfiguruj funkcję celu, używając klasyfikatora opartego na gradient boostingu.
  • Uruchom algorytm na 20 ewaluacjach (użyj domyślnego, sugerowanego algorytmu ze slajdów).