1. Apprendre
    2. /
  2. Cours
    3. /
  3. Machine Learning pour la finance en Python
Connected

Exercice

Réduire le surapprentissage avec le dropout

Un problème courant avec les réseaux de neurones est leur tendance à faire du surapprentissage des données d'entraînement. Cela signifie que la mesure de pointage, comme R\(^2\) ou l'exactitude, est élevée pour l'ensemble d'entraînement, mais faible pour les ensembles de test et de validation, et que le modèle s'ajuste au bruit présent dans les données d'entraînement.

Pour prévenir le surapprentissage, on peut utiliser le dropout. Cette technique élimine au hasard certains neurones pendant l'entraînement, ce qui empêche le réseau de s'ajuster au bruit des données d'entraînement. keras offre une couche Dropout que nous pouvons utiliser à cette fin. Il faut définir le taux de dropout, c'est-à-dire la fraction de connexions éliminées pendant l'entraînement. Ce taux se fixe avec un nombre décimal entre 0 et 1 dans la couche Dropout().

Pour ce modèle, nous allons revenir à la fonction de perte de l'erreur quadratique moyenne.

Instructions

100 XP
  • Ajoutez une couche de dropout (Dropout()) après la première couche Dense du modèle et utilisez 20 % (0,2) comme taux de dropout.
  • Utilisez l'optimiseur adam et la fonction de perte mse lors de la compilation du modèle avec .compile().
  • Entraînez le modèle sur scaled_train_features et train_targets pendant 25 époques.