1. Learn
  2. /
  3. 课程
  4. /
  5. PyTorch 深度学习进阶

Connected

道练习

批量归一化(Batch Normalization)

作为对模型结构的最后一次改进,请在两个线性层之后各添加一个批量归一化层。批量归一化技巧通常能加速训练收敛,并帮助模型缓解梯度消失和梯度爆炸问题。

torch.nn 和 torch.nn.init 已分别以 nn 和 init 的别名为您导入。实现模型结构的改动后,请准备回答一个关于批量归一化工作方式的简短问题!

说明 1 / 共 3 个

undefined XP
    1
    2
    3
  • 添加两个 BatchNorm1d 层,并分别赋给 self.bn1 和 self.bn2。