Začněte nyníZačněte zdarma

Implementace náhodného prohledávání

Prohledávání hyperparametrů je výpočetně náročný přístup k experimentování s různými hodnotami hyperparametrů, který ale může vést ke zlepšení výkonu modelu. V tomto cvičení implementuješ algoritmus náhodného prohledávání.

Náhodně vzorkuješ 10 hodnot learning rate a momentu z rovnoměrného rozdělení. Použiješ k tomu funkci np.random.uniform().

Balíček numpy je již naimportovaný jako np a funkce plot_hyperparameter_search() je připravená pro vizualizaci výsledků.

Toto cvičení je součástí kurzu

Introduction to Deep Learning with PyTorch

Zobrazit kurz

Pokyny k cvičení

  • Náhodně vyber faktor learning rate v rozsahu od 2 do 4 tak, aby learning rate (lr) leželo v rozsahu \(10^{-2}\) až \(10^{-4}\).
  • Náhodně vyber hodnotu momentu v rozsahu od 0,85 do 0,99.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

values = []
for idx in range(10):
    # Randomly sample a learning rate factor between 2 and 4
    factor = ____
    lr = 10 ** -factor
    
    # Randomly select a momentum between 0.85 and 0.99
    momentum = ____
    
    values.append((lr, momentum))
       
plot_hyperparameter_search(values)
Upravit a spustit kód