1. Learn
  2. /
  3. Курси
  4. /
  5. Середній рівень Deep Learning з PyTorch

Connected

вправа

Пакетна нормалізація (Batch Normalization)

Як підсумкове вдосконалення архітектури моделі додайте шар пакетної нормалізації після кожного з двох лінійних шарів. Прийом batch norm зазвичай пришвидшує збіжність під час навчання та захищає модель від проблем затухання й вибуху градієнтів.

І torch.nn, і torch.nn.init уже імпортовано для вас як nn та init відповідно. Щойно ви внесете зміни в архітектуру моделі, будьте готові відповісти на коротке запитання про те, як працює пакетна нормалізація!

Інструкції 1/3

undefined XP
    1
    2
    3
  • Додайте два шари BatchNorm1d, призначивши їх до self.bn1 і self.bn2.