Grid Search a Random Search vedle sebe

Vizualizace prostoru prohledávání pro grid search a random search zároveň ti umožní snadno porovnat pokrytí, které každá metoda nabízí, a lépe pochopit jejich výhody i nevýhody.

V tomto cvičení budeš vzorkovat kombinace hyperparametrů způsobem grid search i random search a pak je vykreslíš, abys viděl/a rozdíl.

Máš k dispozici:

combinations_list – seznam kombinací learn_rate a min_samples_leaf pro tento algoritmus
Funkci visualize_search(), která převede tvoje kombinace hyperparametrů na souřadnice X a Y a vykreslí výsledky obou metod do jednoho grafu. Jako vstup přijímá dva seznamy kombinací hyperparametrů.

Pokud si chceš prohlédnout definici funkce visualize_search(), spusť tento kód:

import inspect
print(inspect.getsource(visualize_search))

Toto cvičení je součástí kurzu

Hyperparameter Tuning in Python

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Sample grid coordinates
grid_combinations_chosen = ____[0:____]

# Print result
print(____)

Upravit a spustit kód

Toto cvičení je součástí kurzu

Hyperparameter Tuning in Python

SkillTag.level.intermediateSkillTag.label

4.9+

Začněte kurz zdarma

V této úvodní kapitole se naučíš rozlišovat hyperparametry a parametry. Procvičíš extrakci a analýzu parametrů a nastavování hodnot hyperparametrů pro několik oblíbených algoritmů strojového učení. Cestou získáš tipy a triky pro výběr hyperparametrů vhodných k ladění, naučíš se volit správné hodnoty a sestavit křivky učení pro analýzu svých voleb.

Exercise 1: Úvod a parametry Exercise 2: Parametry v logistické regresi Exercise 3: Extrakce parametru logistické regrese Exercise 4: Extrakce parametru náhodného lesa Exercise 5: Představení hyperparametrů Exercise 6: Hyperparametry v Random Forests Exercise 7: Prozkoumání hyperparametrů Random Forest Exercise 8: Hyperparametry KNN Exercise 9: Nastavení a analýza hodnot hyperparametrů Exercise 10: Automatizace výběru hyperparametrů Exercise 11: Sestavení křivek učení

Tato kapitola tě seznámí s oblíbenou metodou automatického ladění hyperparametrů zvanou Grid Search. Dozvíš se, co to je, jak funguje, a procvičíš si provádění Grid Search pomocí knihovny Scikit-Learn. Poté se naučíš analyzovat výstupy Grid Search a získáš praktické zkušenosti s jejich interpretací.

Exercise 1: Úvod do Grid Search Exercise 2: Vytvoř funkce pro grid search Exercise 3: Iterativní ladění více hyperparametrů Exercise 4: Kolik modelů?Exercise 5: Grid Search s knihovnou Scikit-Learn Exercise 6: Vstupy GridSearchCV Exercise 7: GridSearchCV pomocí Scikit Learn Exercise 8: Porozumění výstupu grid search Exercise 9: Využití nejlepších výstupů Exercise 10: Prozkoumání výsledků grid search Exercise 11: Analýza nejlepších výsledků Exercise 12: Využití nejlepších výsledků

V této kapitole se seznámíš s další oblíbenou metodou automatického ladění hyperparametrů — Random Search. Dozvíš se, co to je, jak funguje a hlavně čím se liší od Grid Search. Projdeš si výhody i nevýhody této metody a zjistíš, kdy ji preferovat před Grid Search. Procvičíš si také provádění Random Search v knihovně Scikit-Learn a vizualizaci a interpretaci výsledků.

Exercise 1: Představení náhodného prohledávání Exercise 2: Náhodný výběr hyperparametrů Exercise 3: Náhodné prohledávání s Random Forest Exercise 4: Vizualizace náhodného hledání Exercise 5: Random Search v Scikit-Learn Exercise 6: Vstupní parametry RandomSearchCV Exercise 7: Objekt RandomizedSearchCV Exercise 8: RandomSearchCV v Scikit Learn Exercise 9: Porovnání Grid Search a Random Search Exercise 10: Porovnání Random Search a Grid Search Exercise 11: Grid Search a Random Search vedle sebe

Aktuální cvičení

V této závěrečné kapitole nahlédneš do pokročilejších metod ladění hyperparametrů označovaných jako „řízené prohledávání". Patří sem přístup od hrubého k jemnému (Coarse To Fine) a také bayesovské a genetické algoritmy ladění hyperparametrů. Dozvíš se, čím se řízené prohledávání liší od neřízeného, a získáš praktické dovednosti s každou ze zmíněných metod, které budeš průběžně porovnávat a hodnotit.

Exercise 1: Informované prohledávání: od hrubého k jemnému Exercise 2: Vizualizace přístupu Coarse to Fine Exercise 3: Iterace od hrubého k jemnému Exercise 4: Informované hledání: Bayesovská statistika Exercise 5: Bayesovo pravidlo v Pythonu Exercise 6: Bayesovské ladění hyperparametrů s Hyperopt Exercise 7: Informované prohledávání: genetické algoritmy Exercise 8: Genetické ladění hyperparametrů pomocí TPOT Exercise 9: Analýza stability TPOT Exercise 10: Gratulujeme!