1. Učit se
  2. /
  3. Kurzy
  4. /
  5. Hyperparameter Tuning in Python

Connected

cvičení

Bayesovské ladění hyperparametrů s Hyperopt

V tomto příkladu nastavíš a spustíš proces bayesovské optimalizace hyperparametrů pomocí balíčku Hyperopt (importovaného jako hp). Nejprve definuješ doménu (podobně jako při nastavování mřížky pro grid search), pak sestavíš účelovou funkci a nakonec spustíš optimalizátor na 20 iterací.

Doménu nastavíš pomocí těchto hodnot:

  • max_depth – rovnoměrné diskrétní rozdělení quniform (od 2 do 10, s krokem 2)
  • learning_rate – spojité rovnoměrné rozdělení uniform (od 0,001 do 0,9)

Poznámka: Pro účely tohoto cvičení byl zmenšen vzorek dat i počet iterací Hyperoptu a GBM. Pokud si tuto metodu chceš vyzkoušet sám/sama na vlastním počítači, zkus větší prohledávací prostor, více pokusů, více křížových validací a větší datovou sadu – pak uvidíš tuto metodu v plné síle!

Pokyny

100 XP
  • Nastav slovník space podle výše popsané domény.
  • Sestav účelovou funkci využívající klasifikátor s gradientním boostingem.
  • Spusť algoritmus na 20 vyhodnocení (použij výchozí doporučený algoritmus ze snímků).