Weights को मैन्युअली अपडेट करना
अब जब आप weights और biases को एक्सेस करना जानते हैं, तो आप PyTorch के optimizer का काम मैन्युअली करेंगे। हालाँकि PyTorch यह काम ऑटोमेट करता है, लेकिन इसे खुद करके देखने से आपको यह समझ विकसित होती है कि मॉडल कैसे सीखते हैं और अपने पैरामीटर्स को एडजस्ट करते हैं। यह समझ neural networks को डिबग करने या fine-tune करने के समय बहुत काम आएगी.
तीन लेयर वाला एक neural network बनाया गया है और model वैरिएबल में स्टोर है। इस नेटवर्क पर एक forward pass चलाया गया है और loss तथा उसके डेरिवेटिव्स निकाल लिए गए हैं। अपडेट करते समय gradients को स्केल करने के लिए एक डिफॉल्ट learning rate lr चुना गया है.
यह अभ्यास पाठ्यक्रम का हिस्सा है
PyTorch के साथ Deep Learning परिचय
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
weight0 = model[0].weight
weight1 = model[1].weight
weight2 = model[2].weight
# Access the gradients of the weight of each linear layer
grads0 = ____
grads1 = ____
grads2 = ____