ПочатиПочніть безкоштовно

Реалізація випадкового пошуку

Пошук гіперпараметрів — це обчислювально затратний спосіб експериментувати з різними значеннями гіперпараметрів. Проте він може покращити результативність. У цій вправі ви реалізуєте алгоритм випадкового пошуку.

Ви випадково виберете 10 значень коефіцієнта навчання та моменту з рівномірного розподілу. Для цього ви використаєте функцію np.random.uniform().

Пакет numpy уже імпортовано як np, а функцію plot_hyperparameter_search() створено для візуалізації ваших результатів.

Ця вправа є частиною курсу

Вступ до Deep Learning з PyTorch

Переглянути курс

Інструкції до вправи

  • Випадково виберіть показник для коефіцієнта навчання між 2 і 4, щоб коефіцієнт навчання (lr) лежав у межах від \(10^{-2}\) до \(10^{-4}\).
  • Випадково виберіть значення моменту в діапазоні від 0,85 до 0,99.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

values = []
for idx in range(10):
    # Randomly sample a learning rate factor between 2 and 4
    factor = ____
    lr = 10 ** -factor
    
    # Randomly select a momentum between 0.85 and 0.99
    momentum = ____
    
    values.append((lr, momentum))
       
plot_hyperparameter_search(values)
Редагувати та запускати код