学習率を試してみましょう
この演習では、非凸関数 \(x^{4} + x^{3} - 5x^{2}\) の最小値を最適化手法が10ステップで見つけられるような最適な学習率を探します。
3つの異なる学習率を試してみます。この問題では、学習率は 0.001 から 0.1 の範囲で試してください。
最初の引数に学習率を受け取る optimize_and_plot() 関数が用意されています。この関数は SGD オプティマイザで10ステップ実行し、結果を表示します。
この演習はコースの一部です
PyTorchで学ぶIntroduction to Deep Learning
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Try a first learning rate value
lr0 = ____
optimize_and_plot(lr=lr0)