1. Обучение
    2. /
  2. Курса
    3. /
  3. PyTorch के साथ Deep Learning परिचय
Connected

упражнение

Leaky ReLU लागू करना

हालाँकि ReLU व्यापक रूप से उपयोग होता है, यह नकारात्मक इनपुट को 0 कर देता है, जिससे उन मानों के लिए शून्य ग्रेडिएंट हो जाते हैं। इससे मॉडल के कुछ हिस्से सीख नहीं पाते।

Leaky ReLU इसे इस तरह हल करता है कि नकारात्मक इनपुट के लिए छोटे ग्रेडिएंट की अनुमति देता है, जिसे negative_slope पैरामीटर से नियंत्रित किया जाता है। 0 की जगह, नकारात्मक इनपुट को इस छोटे मान से स्केल किया जाता है, जिससे मॉडल की लर्निंग सक्रिय रहती है।

इस अभ्यास में, आप PyTorch में leaky ReLU फंक्शन इम्प्लीमेंट करेंगे और उसका उपयोग करके देखेंगे। torch पैकेज तथा torch.nn को nn नाम से पहले ही इम्पोर्ट किया जा चुका है।

Инструкции 1/2

undefined XP
    1
    2
  • PyTorch में 0.05 negative slope के साथ एक leaky ReLU फंक्शन बनाएँ।
  • पहले से परिभाषित टेन्सर x पर इस फंक्शन को कॉल करें।