Initialisation dans TensorFlow

Une bonne initialisation peut réduire le temps nécessaire pour trouver le minimum global. Dans cet exercice, nous allons initialiser les poids et les biais d'un réseau de neurones qui servira à prédire les défauts de paiement sur carte de crédit. Pour mieux comprendre la mécanique, nous utiliserons l'approche de bas niveau, fondée sur l'algèbre linéaire, plutôt que des fonctions pratiques et les opérations de haut niveau de keras. Nous élargirons aussi l'ensemble des variables d'entrée, en passant de 3 à 23. Plusieurs opérations ont été importées de tensorflow : Variable(), random() et ones().

Cette activité fait partie du cours

Introduction à TensorFlow en Python

Instructions de l’exercice

Initialisez les poids de la couche 1, w1, comme une Variable() de forme [23, 7], tirée d'une distribution normale.
Initialisez le biais de la couche 1 avec des ones.
Utilisez un tirage de la distribution normale pour initialiser w2 comme une Variable() de forme [7, 1].
Définissez b2 comme une Variable() et fixez sa valeur initiale à 0.0.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Define the layer 1 weights
w1 = ____(random.normal([____, ____]))

# Initialize the layer 1 bias
b1 = Variable(____([7]))

# Define the layer 2 weights
w2 = ____

# Define the layer 2 bias
b2 = ____

Modifier et exécuter le code

Cette activité fait partie du cours

Introduction à TensorFlow en Python

SkillTag.level.intermediateSkillTag.label

4.8+

Commencer le cours gratuitement

Avant de pouvoir créer des modèles avancés dans TensorFlow 2, vous devez d'abord en maîtriser les notions de base. Dans ce chapitre, vous apprendrez à définir des constantes et des variables, à effectuer des additions et multiplications de tenseurs, et à calculer des dérivées. Des connaissances en algèbre linéaire seront utiles, mais non indispensables.

Exercise 1: Constantes et variables Exercise 2: Définir les données comme constantes Exercise 3: Définir des variables Exercise 4: Opérations de base Exercise 5: Effectuer une multiplication élément par élément Exercise 6: Faire des prédictions avec la multiplication de matrices Exercise 7: Sommer selon les dimensions d'un tenseur Exercise 8: Opérations avancées Exercise 9: Remodeler des tenseurs Exercise 10: Optimiser avec des gradients Exercise 11: Travailler avec des données d'images

Dans ce chapitre, vous apprendrez à créer, résoudre et utiliser des modèles pour faire des prédictions avec TensorFlow 2. Vous vous concentrerez sur une classe simple de modèles — la régression linéaire — afin d'essayer de prédire les prix des maisons. À la fin du chapitre, vous saurez charger et manipuler des données, construire des fonctions de perte, effectuer la minimisation, produire des prédictions et réduire l'utilisation des ressources avec l'entraînement par lots.

Exercise 1: Données d'entrée Exercise 2: Charger des données avec pandas Exercise 3: Définir le type de données Exercise 4: Fonctions de perte Exercise 5: Fonctions de perte dans TensorFlow Exercise 6: Modifier la fonction de perte Exercise 7: Régression linéaire Exercise 8: Mettre en place une régression linéaire Exercise 9: Entraîner un modèle linéaire Exercise 10: Régression linéaire multiple Exercise 11: Entraînement par lots Exercise 12: Préparer l'entraînement par lot Exercise 13: Entraîner un modèle linéaire par lots

Les chapitres précédents vous ont appris à créer des modèles dans TensorFlow 2. Dans ce chapitre, vous appliquerez ces mêmes outils pour construire, entraîner et faire des prédictions avec des réseaux de neurones. Vous apprendrez à définir des couches denses, à appliquer des fonctions d'activation, à choisir un optimiseur et à utiliser la régularisation pour réduire le surapprentissage. Vous tirerez parti de la flexibilité de TensorFlow en combinant l'algèbre linéaire de bas niveau et les opérations de l'API Keras de haut niveau pour définir et entraîner des modèles.

Exercise 1: Couches denses Exercise 2: L'algèbre linéaire des couches denses Exercise 3: L'approche de bas niveau avec plusieurs exemples Exercise 4: Utiliser l'opération de couche dense Exercise 5: Fonctions d'activation Exercise 6: Problèmes de classification binaire Exercise 7: Problèmes de classification multiclasse Exercise 8: Optimiseurs Exercise 9: Les dangers des minima locaux Exercise 10: Éviter les minimums locaux Exercise 11: Entraîner un réseau dans TensorFlow Exercise 12: Initialisation dans TensorFlow

Exercice en cours

Exercise 13: Définir le modèle et la fonction de perte Exercise 14: Entraîner des réseaux de neurones avec TensorFlow

Dans le dernier chapitre, vous utiliserez des API de haut niveau dans TensorFlow 2 pour entraîner un classificateur de lettres en langue des signes. Vous emploierez les API Keras séquentielle et fonctionnelle pour entraîner, valider, prédire et évaluer des modèles. Vous apprendrez aussi à utiliser l'API Estimators pour simplifier la définition et l'entraînement des modèles, et pour éviter les erreurs.

Exercise 1: Définir des réseaux neuronaux avec Keras Exercise 2: Le modèle séquentiel dans Keras Exercise 3: Compiler un modèle séquentiel Exercise 4: Définir un modèle à entrées multiples Exercise 5: Entraînement et validation avec Keras Exercise 6: Entraîner avec Keras Exercise 7: Mesures et validation avec Keras Exercise 8: Détection du surapprentissage Exercise 9: Évaluer des modèles Exercise 10: Entraîner des modèles avec l'API Estimators Exercise 11: Préparer l'entraînement avec Estimators Exercise 12: Définir des estimateurs Exercise 13: Félicitations !