1. Learn
    2. /
  2. คอร์ส
    3. /
  3. Введение в глубокое обучение с PyTorch
Connected

แบบฝึกหัด

Обновление весов вручную

Теперь, когда вы знаете, как получить доступ к весам и смещениям, вы вручную выполните работу, которую обычно берёт на себя оптимизатор PyTorch. Несмотря на то что PyTorch автоматизирует этот процесс, ручная практика помогает лучше понять, как модели обучаются и адаптируются. Это понимание окажется незаменимым при отладке и тонкой настройке нейронных сетей.

Трёхслойная нейронная сеть уже создана и сохранена в переменной model. Сеть использовалась для прямого прохода, а также были вычислены значение функции потерь и её производные. Для масштабирования градиентов при обновлении параметров выбрана стандартная скорость обучения lr.

คำแนะนำ 1/2

undefined XP
    1
    2
  • Создайте переменные градиентов, обратившись к локальным градиентам каждого тензора весов.