1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Intermediate Deep Learning with PyTorch
Connected

cvičení

Batch Normalization

Jako poslední vylepšení architektury modelu přidáme vrstvu batch normalization za každou z obou lineárních vrstev. Batch norm trik zpravidla urychluje konvergenci trénování a chrání model před problémy mizejících a explodujících gradientů.

torch.nn i torch.nn.init už jsou naimportované jako nn a init. Až změnu v architektuře modelu implementuješ, připrav se na krátkou otázku o tom, jak batch normalization funguje!

Pokyny 1/3

undefined XP
    1
    2
    3
  • Přidej dvě vrstvy BatchNorm1d a přiřaď je do self.bn1 a self.bn2.