Bereksperimen dengan momentum
Pada latihan ini, tujuan Anda adalah menemukan nilai momentum yang optimal agar optimizer dapat menemukan titik minimum dari fungsi non-konveks berikut, \(x^{4} + x^{3} - 5x^{2}\), dalam 20 langkah. Anda akan bereksperimen dengan dua nilai momentum yang berbeda. Untuk soal ini, laju pembelajaran ditetapkan pada 0,01.
Anda disediakan fungsi optimize_and_plot() yang menerima parameter masukan momentum. Fungsi ini akan menjalankan 20 langkah optimizer SGD dan menampilkan hasilnya.
Latihan ini merupakan bagian dari kursus
Pengantar Deep Learning dengan PyTorch
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Try a first value for momentum
mom0 = ____
optimize_and_plot(momentum=mom0)