Náhodný výběr hyperparametrů
Aby bylo možné provést náhodné prohledávání, musíme nejprve náhodně vzorkovat prostor hyperparametrů.
V tomto cvičení nejprve vytvoříš několik seznamů hyperparametrů, které pak zkombinuješ do seznamu seznamů. Z něj pak náhodně vybereš kombinace hyperparametrů jako přípravu na spuštění náhodného prohledávání.
Pro přehlednost použijeme pouze hyperparametry learning_rate a min_samples_leaf algoritmu GBM, aby příklad zůstal srozumitelný a příliš složitý.
Toto cvičení je součástí kurzu
Hyperparameter Tuning in Python
Pokyny k cvičení
- Vytvoř seznam 200 hodnot hyperparametru
learning_ratev rozsahu od 0,01 do 1,5 a ulož ho do proměnnélearn_rate_list. - Vytvoř seznam hodnot hyperparametru
min_samples_leafv rozsahu od 10 do 40 včetně a ulož ho do proměnnémin_samples_list. - Zkombinuj tyto seznamy do seznamu seznamů, ze kterého budeš vzorkovat.
- Náhodně vyber 250 modelů z těchto kombinací hyperparametrů a výsledek vypiš.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)