Votre premier réseau neuronal

Il est temps pour vous de mettre en œuvre un petit réseau neuronal contenant deux couches linéaires successives.

Cet exercice fait partie du cours

<cours>Introduction au Deep Learning avec PyTorch</cours>

Instructions de l’exercice

Ajoutez un conteneur pour empiler les couches en séquence.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

import torch
import torch.nn as nn

input_tensor = torch.Tensor([[2, 3, 6, 7, 9, 3, 2, 1]])

# Create a container for stacking linear layers
model = nn.____(nn.Linear(8, 4),
                nn.Linear(4, 1)
                )

output = model(input_tensor)
print(output)

Modifier et exécuter le code

Cet exercice fait partie du cours

<cours>Introduction au Deep Learning avec PyTorch</cours>

IntermédiaireNiveau de compétence

4.8+

Commencer le cours gratuitement

Voitures autonomes, smartphones, moteurs de recherche… Le deep learning est partout. Avant de créer des modèles complexes, vous allez vous familiariser avec PyTorch, un framework de deep learning. Vous apprendrez à manipuler des tenseurs, à créer des structures de données PyTorch et à construire votre premier réseau de neurones dans PyTorch avec des couches linéaires.

Exercise 1: Introduction au deep learning avec PyTorch Exercise 2: Débuter avec les tenseurs PyTorch Exercise 3: Vérification et addition de tenseurs Exercise 4: Réseaux neuronaux et couches Exercise 5: Réseau à couches linéaires Exercise 6: Comprendre les poids Exercise 7: Couches cachées et paramètres Exercise 8: Votre premier réseau neuronal

Exercice actuel

Exercise 9: Empilement de couches linéaires Exercise 10: Compter le nombre de paramètres

Pour entraîner un réseau de neurones avec PyTorch, vous devrez d'abord comprendre des composants supplémentaires, comme les fonctions d'activation et les fonctions de perte. Vous verrez ensuite que l'entraînement d'un réseau consiste à minimiser cette fonction de perte, ce qui se fait en calculant des gradients. Vous apprendrez à utiliser ces gradients pour mettre à jour les paramètres de votre modèle.

Exercise 1: Découverte des fonctions d’activation Exercise 2: Activez votre compréhension !Exercise 3: Les fonctions sigmoid et softmax Exercise 4: Exécution d’une passe avant Exercise 5: Construire un classificateur binaire avec PyTorch Exercise 6: De la régression à la classification multiclasses Exercise 7: Utilisation de fonctions de perte pour évaluer les prédictions des modèles Exercise 8: Création d’étiquettes encodées one-hot Exercise 9: Calcul de la perte d’entropie croisée Exercise 10: Utilisation des dérivées pour mettre à jour les paramètres du modèle Exercise 11: Accès aux paramètres du modèle Exercise 12: Mise à jour manuelle des poids Exercise 13: Utilisation de l’optimiseur PyTorch

Maintenant que vous connaissez les composants clés d'un réseau de neurones, vous allez en entraîner un à l'aide d'une boucle d'entraînement. Vous explorerez des problèmes potentiels comme la disparition des gradients et découvrirez des stratégies pour y remédier, par exemple des fonctions d'activation alternatives et l'ajustement du learning rate et du momentum.

Exercise 1: Approfondissement du chargement des données Exercise 2: Utilisation de TensorDataset Exercise 3: Utilisation de DataLoader Exercise 4: Rédaction de notre première boucle d’apprentissage Exercise 5: Utilisation de MSELoss Exercise 6: Écrire une boucle d’apprentissage Exercise 7: Fonctions d’activation ReLU Exercise 8: Mise en œuvre de ReLU Exercise 9: Mise en œuvre de LeakyReLU Exercise 10: Comprendre les fonctions d’activation Exercise 11: Taux d’apprentissage et dynamique Exercise 12: Expérimenter avec le taux d’apprentissage Exercise 13: Expérimenter avec la dynamique (momentum)

Former un modèle de deep learning est un art, et pour s'assurer que notre modèle est correctement entraîné, nous devons suivre certains indicateurs pendant l'entraînement, comme la perte ou l'accuracy. Nous apprendrons à calculer ces métriques et à réduire le surapprentissage.

Exercise 1: Initialisation des couches et apprentissage par transfert Exercise 2: Processus d’affinement Exercise 3: Geler des couches d’un modèle Exercise 4: Initialisation des couches Exercise 5: Mesurer la performance du modèle Exercise 6: Rédaction de la boucle d'évaluation Exercise 7: Calcul de la précision à l’aide des métriques torch (torchmetrics)Exercise 8: Lutter contre le surajustement Exercise 9: Expérimenter avec le dropout Exercise 10: Comprendre le surajustement Exercise 11: Améliorer la performance du modèle Exercise 12: Implémentation de la recherche aléatoire Exercise 13: Vidéo de conclusion