1. Обучение
    2. /
  2. Курса
    3. /
  3. Введение в глубокое обучение с PyTorch
Connected

упражнение

Эксперименты со скоростью обучения

В этом упражнении ваша цель — найти оптимальную скорость обучения, при которой оптимизатор сможет найти минимум невыпуклой функции \(x^{4} + x^{3} - 5x^{2}\) за десять шагов.

Вы попробуете три разных значения скорости обучения. Для этой задачи используйте значения в диапазоне от 0,001 до 0,1.

Вам предоставлена функция optimize_and_plot(), которая принимает скорость обучения в качестве первого аргумента. Эта функция выполнит 10 шагов оптимизатора SGD и отобразит результаты.

Инструкции 1/3

undefined XP
  • 1
    • Попробуйте малое значение скорости обучения, при котором оптимизатор не сможет выйти за пределы первого минимума справа.
  • 2
    • Попробуйте большое значение скорости обучения, при котором оптимизатор перепрыгнет через глобальный минимум в точке -2.
  • 3
    • Опираясь на предыдущие результаты, подберите более подходящее значение скорости обучения.