Momentum के साथ प्रयोग
इस अभ्यास में आपका लक्ष्य ऐसा optimal momentum ढूँढना है जिससे optimizer नीचे दिए गए non-convex फंक्शन \(x^{4} + x^{3} - 5x^{2}\) का न्यूनतम 20 steps में खोज सके। आप momentum के दो अलग-अलग मानों के साथ प्रयोग करेंगे। इस समस्या के लिए learning rate 0.01 पर फिक्स्ड है.
आपको optimize_and_plot() फंक्शन दिया गया है जो इनपुट के रूप में momentum पैरामीटर लेता है। यह फंक्शन SGD optimizer के 20 steps चलाएगा और परिणाम दिखाएगा.
यह अभ्यास पाठ्यक्रम का हिस्सा है
PyTorch के साथ Deep Learning परिचय
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
# Try a first value for momentum
mom0 = ____
optimize_and_plot(momentum=mom0)