1. 학습
  2. /
  3. 강의
  4. /
  5. PyTorch 深度学习进阶

Connected

연습 문제

优化器

现在是时候探索可用于训练模型的不同优化器了。

我们已经为您定义了一个自定义函数 train_model(optimizer, net, num_epochs)。它接收优化器、模型以及训练轮数作为输入,运行训练循环,并在最后打印训练损失。

让我们使用 train_model(),用不同的优化器各跑一次短训练,并比较结果吧!

지침 1/3

undefined XP
  • 1
    • 将 optimizer 定义为随机梯度下降(Stochastic Gradient Descent)。
  • 2
    • 将优化器定义为均方根传播(Root Mean Square Propagation,RMSprop),并将模型参数作为其第 1 个参数传入。
  • 3
    • 将优化器定义为自适应矩估计(Adaptive Moments Estimation,Adam),并将学习率设为 0.001。