शुरू करेंमुफ़्त में शुरू करें

बैच नॉर्मलाइज़ेशन

मॉडल आर्किटेक्चर में अंतिम सुधार के रूप में, आइए दोनों लीनियर लेयर्स के बाद बैच नॉर्मलाइज़ेशन लेयर जोड़ें। बैच नॉर्म ट्रिक आमतौर पर ट्रेनिंग को तेज़ी से कन्वर्ज कराती है और मॉडल को वैनिशिंग व एक्सप्लोडिंग ग्रेडिएंट्स जैसी समस्याओं से बचाती है.

torch.nn और torch.nn.init पहले से क्रमशः nn और init के रूप में इम्पोर्ट किए गए हैं। जैसे ही आप मॉडल आर्किटेक्चर में बदलाव लागू करें, तैयार रहिए एक छोटे से प्रश्न का उत्तर देने के लिए कि बैच नॉर्मलाइज़ेशन कैसे काम करता है!

यह अभ्यास पाठ्यक्रम का हिस्सा है

इंटरमीडिएट Deep Learning with PyTorch

पाठ्यक्रम देखें

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(9, 16)
        # Add two batch normalization layers
        ____ = ____
        self.fc2 = nn.Linear(16, 8)
        ____ = ____
        self.fc3 = nn.Linear(8, 1)
        
        init.kaiming_uniform_(self.fc1.weight)
        init.kaiming_uniform_(self.fc2.weight)
        init.kaiming_uniform_(self.fc3.weight, nonlinearity="sigmoid")
कोड संपादित करें और चलाएँ