1. Обучение
    2. /
  2. Курса
    3. /
  3. Deep Learning intermediar cu PyTorch
Connected

упражнение

Normalizarea pe loturi (Batch Normalization)

Ca ultimă îmbunătățire a arhitecturii modelului, să adăugăm un strat de normalizare pe loturi după fiecare dintre cele două straturi liniare. Tehnica batch normalization tinde să accelereze convergența antrenamentului și protejează modelul de problemele gradienților instabili (care dispar sau explodează).

Atât torch.nn, cât și torch.nn.init au fost deja importate pentru tine ca nn și, respectiv, init. Odată ce implementezi modificarea în arhitectura modelului, pregătește-te să răspunzi la o întrebare scurtă despre modul în care funcționează normalizarea pe loturi!

Инструкции 1/3

undefined XP
    1
    2
    3
  • Adaugă două straturi BatchNorm1d și atribuie-le lui self.bn1 și self.bn2.