1. Apprendre
    2. /
  2. Cours
    3. /
  3. Introduction au Deep Learning avec PyTorch
Connected

Exercice

Expérimenter avec le taux d'apprentissage

Dans cet exercice, votre objectif est de trouver le taux d'apprentissage optimal pour que l'optimiseur atteigne le minimum de la fonction non convexe \(x^{4} + x^{3} - 5x^{2}\) en dix étapes.

Vous allez essayer trois valeurs différentes de taux d'apprentissage. Pour ce problème, testez des valeurs entre 0,001 et 0,1.

La fonction optimize_and_plot() vous est fournie et prend le taux d'apprentissage comme premier argument. Cette fonction exécute 10 étapes de l'optimiseur SGD et affiche les résultats.

Instructions 1/3

undefined XP
  • 1
    • Essayez une petite valeur de taux d'apprentissage afin que l'optimiseur ne puisse pas dépasser le premier minimum à droite.
  • 2
    • Essayez une grande valeur de taux d'apprentissage afin que l'optimiseur saute par-dessus le minimum global à -2.
  • 3
    • D'après les résultats précédents, essayez une meilleure valeur de taux d'apprentissage.