1. Learn
  2. /
  3. 课程
  4. /
  5. 使用 PyTorch 的深度学习入门

Connected

道练习

尝试不同的学习率

在本练习中,您的目标是在 10 步内,让优化器找到非凸函数 \(x^{4} + x^{3} - 5x^{2}\) 的最小值,从而确定一个合适的学习率。

您将尝试 3 个不同的学习率值。针对这个问题,请在 0.001 到 0.1 之间选择学习率。

我们已提供 optimize_and_plot() 函数,其第 1 个参数为学习率。该函数会运行 10 步 SGD 优化器并显示结果。

说明 1/3

undefined XP
  • 1
    • 尝试一个较小的学习率,使优化器无法越过右侧的第一个极小值。
  • 2
    • 尝试一个较大的学习率,使优化器跳过位于 -2 的全局最小值。
  • 3
    • 基于前面的结果,尝试一个更合适的学习率。