1. Apprendre
    2. /
  2. Cours
    3. /
  3. Introduction au Deep Learning avec PyTorch
Connected

Exercice

Mettre en œuvre une recherche aléatoire

La recherche d'hyperparamètres est une approche coûteuse en calcul pour essayer différentes valeurs d'hyperparamètres. Toutefois, elle peut améliorer les performances. Dans cet exercice, vous allez mettre en œuvre un algorithme de recherche aléatoire.

Vous allez prélever au hasard 10 valeurs du taux d'apprentissage et du momentum à partir d'une distribution uniforme. Pour ce faire, vous utiliserez la fonction np.random.uniform().

Le module numpy a déjà été importé sous le nom np, et une fonction plot_hyperparameter_search() a été créée pour visualiser vos résultats.

Instructions

100 XP
  • Échantillonnez aléatoirement un exposant pour le taux d'apprentissage entre 2 et 4 afin que le taux d'apprentissage (lr) soit borné entre \(10^{-2}\) et \(10^{-4}\).
  • Échantillonnez aléatoirement un momentum entre 0,85 et 0,99.