1. Apprendre
  2. /
  3. Cours
  4. /
  5. Introduction au Deep Learning avec PyTorch

Connected

Exercice

Mettre à jour les poids manuellement

Maintenant que vous savez comment accéder aux poids et aux biais, vous allez effectuer manuellement le travail de l'optimiseur PyTorch. Même si PyTorch automatise cette étape, la pratiquer à la main vous aide à développer une intuition sur la façon dont les modèles apprennent et s'ajustent. Cette compréhension sera utile pour le débogage ou l'ajustement fin de réseaux de neurones.

Un réseau de neurones à trois couches a été créé et stocké dans la variable model. Ce réseau a été utilisé pour une propagation avant et la perte ainsi que ses dérivées ont été calculées. Un taux d'apprentissage par défaut, lr, a été choisi pour mettre à l'échelle les gradients lors de la mise à jour.

Instructions 1/2

undefined XP
    1
    2
  • Créez les variables de gradient en accédant aux gradients locaux de chaque tenseur de poids.