1. Learn
  2. /
  3. 课程
  4. /
  5. 使用 PyTorch 的深度学习入门

Connected

道练习

手动更新权重

现在,您已经知道如何访问权重和偏置,接下来将手动完成 PyTorch 优化器的工作。虽然 PyTorch 会自动完成这些步骤,但手动练习有助于您直观理解模型如何学习和调整。在调试或微调神经网络时,这种理解非常有价值。

已经创建了一个包含 3 层的神经网络,并存储在变量 model 中。该网络已完成一次前向传播,并计算了损失及其导数。已经选择了一个默认学习率 lr,用于在更新时对梯度进行缩放。

说明 1 / 共 2 个

undefined XP
    1
    2
  • 通过访问每个权重张量的局部梯度来创建梯度变量。