1. Обучение
    2. /
  2. Курса
    3. /
  3. Введение в глубокое обучение с PyTorch
Connected

упражнение

Эксперименты с моментом

В этом упражнении ваша цель — найти оптимальное значение момента, при котором оптимизатор сможет найти минимум следующей невыпуклой функции \(x^{4} + x^{3} - 5x^{2}\) за 20 шагов. Вы попробуете два разных значения момента. Скорость обучения для этой задачи фиксирована на уровне 0,01.

Вам предоставлена функция optimize_and_plot(), которая принимает на вход параметр momentum. Эта функция выполнит 20 шагов оптимизатора SGD и отобразит результаты.

Инструкции 1/2

undefined XP
  • 1
    • Попробуйте первое значение момента, при котором оптимизатор застрянет в первом минимуме.
  • 2
    • Попробуйте второе значение момента, при котором оптимизатор найдёт глобальный оптимум.