러닝 레이트 실험하기
이번 연습 문제의 목표는 비볼록 함수 $x^{4} + x^{3} - 5x^{2}$의 최소값을 최적화기가 10번의 단계 안에 찾을 수 있도록, 최적의 러닝 레이트를 찾는 것입니다.
세 가지 서로 다른 러닝 레이트 값을 실험해 보세요. 이 문제에서는 0.001에서 0.1 사이의 값을 시도해 보면 좋습니다.
첫 번째 인수로 러닝 레이트를 받는 optimize_and_plot() 함수가 제공됩니다. 이 함수는 SGD 최적화기를 10단계 실행하고 결과를 표시합니다.
이 연습은 강의의 일부입니다
PyTorch로 배우는 딥러닝 입문
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Try a first learning rate value
lr0 = ____
optimize_and_plot(lr=lr0)