लेयर इनिशियलाइज़ेशन
न्यूरल नेटवर्क के वेट्स का इनिशियलाइज़ेशन कई वर्षों से शोध का केंद्र रहा है. जब आप किसी नेटवर्क को ट्रेन करते हैं, तो वेट्स को इनिशियलाइज़ करने का तरीका नेटवर्क के अंतिम प्रदर्शन पर सीधा असर डालता है.
एक मशीन लर्निंग प्रैक्टिशनर के रूप में, आपको अलग-अलग इनिशियलाइज़ेशन रणनीतियों के साथ प्रयोग करने में सक्षम होना चाहिए. इस अभ्यास में, आप दो लेयर्स से बना एक छोटा न्यूरल नेटवर्क बना रहे हैं और आप निर्णय लेते हैं कि प्रत्येक लेयर के वेट्स को यूनिफॉर्म मेथड से इनिशियलाइज़ किया जाए.
यह अभ्यास पाठ्यक्रम का हिस्सा है
PyTorch के साथ Deep Learning परिचय
अभ्यास निर्देश
- हर लेयर (
layer0औरlayer1) के लिए, वेट्स को इनिशियलाइज़ करने के लिए यूनिफॉर्म इनिशियलाइज़ेशन मेथड का उपयोग करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)
# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)
model = nn.Sequential(layer0, layer1)