모멘텀 실험해 보기
이 연습 문제에서는 다음 비볼록 함수 $x^{4} + x^{3} - 5x^{2}$의 최소값을 최적화기가 20번의 단계 안에 찾을 수 있도록 최적의 모멘텀 값을 찾아보세요. 두 가지 다른 모멘텀 값을 실험하게 됩니다. 이 문제에서 학습률은 0.01로 고정되어 있습니다.
momentum 매개변수를 입력으로 받는 optimize_and_plot() 함수가 제공됩니다. 이 함수는 SGD 옵티마이저를 20단계 실행하고 결과를 표시합니다.
이 연습은 강의의 일부입니다
PyTorch로 배우는 딥러닝 입문
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Try a first value for momentum
mom0 = ____
optimize_and_plot(momentum=mom0)