L'algèbre linéaire des couches denses

Il existe deux façons de définir une couche dense dans tensorflow. La première utilise des opérations d'algèbre linéaire de bas niveau. La seconde s'appuie sur des opérations de haut niveau de keras. Dans cet exercice, nous allons utiliser la première méthode pour construire le réseau illustré dans l'image ci-dessous.

Cette image illustre un réseau neuronal avec 5 nœuds d'entrée et 3 nœuds de sortie.

La couche d'entrée comprend 3 caractéristiques — scolarité, état civil et âge — disponibles sous borrower_features. La couche cachée contient 2 nœuds et la couche de sortie contient un seul nœud.

Pour chaque couche, vous prendrez la couche précédente en entrée, initialiserez un ensemble de poids, calculerez le produit des entrées et des poids, puis appliquerez une fonction d'activation. Notez que Variable(), ones(), matmul() et keras() ont été importés de tensorflow.

Cette activité fait partie du cours

Introduction à TensorFlow en Python

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Initialize bias1
bias1 = Variable(1.0)

# Initialize weights1 as 3x2 variable of ones
weights1 = ____(ones((____, ____)))

# Perform matrix multiplication of borrower_features and weights1
product1 = ____

# Apply sigmoid activation function to product1 + bias1
dense1 = keras.activations.____(____ + ____)

# Print shape of dense1
print("\n dense1's output shape: {}".format(dense1.shape))

Modifier et exécuter le code

Cette activité fait partie du cours

Introduction à TensorFlow en Python

SkillTag.level.intermediateSkillTag.label

4.8+

Commencer le cours gratuitement

Avant de pouvoir créer des modèles avancés dans TensorFlow 2, vous devez d'abord en maîtriser les notions de base. Dans ce chapitre, vous apprendrez à définir des constantes et des variables, à effectuer des additions et multiplications de tenseurs, et à calculer des dérivées. Des connaissances en algèbre linéaire seront utiles, mais non indispensables.

Exercise 1: Constantes et variables Exercise 2: Définir les données comme constantes Exercise 3: Définir des variables Exercise 4: Opérations de base Exercise 5: Effectuer une multiplication élément par élément Exercise 6: Faire des prédictions avec la multiplication de matrices Exercise 7: Sommer selon les dimensions d'un tenseur Exercise 8: Opérations avancées Exercise 9: Remodeler des tenseurs Exercise 10: Optimiser avec des gradients Exercise 11: Travailler avec des données d'images

Dans ce chapitre, vous apprendrez à créer, résoudre et utiliser des modèles pour faire des prédictions avec TensorFlow 2. Vous vous concentrerez sur une classe simple de modèles — la régression linéaire — afin d'essayer de prédire les prix des maisons. À la fin du chapitre, vous saurez charger et manipuler des données, construire des fonctions de perte, effectuer la minimisation, produire des prédictions et réduire l'utilisation des ressources avec l'entraînement par lots.

Exercise 1: Données d'entrée Exercise 2: Charger des données avec pandas Exercise 3: Définir le type de données Exercise 4: Fonctions de perte Exercise 5: Fonctions de perte dans TensorFlow Exercise 6: Modifier la fonction de perte Exercise 7: Régression linéaire Exercise 8: Mettre en place une régression linéaire Exercise 9: Entraîner un modèle linéaire Exercise 10: Régression linéaire multiple Exercise 11: Entraînement par lots Exercise 12: Préparer l'entraînement par lot Exercise 13: Entraîner un modèle linéaire par lots

Les chapitres précédents vous ont appris à créer des modèles dans TensorFlow 2. Dans ce chapitre, vous appliquerez ces mêmes outils pour construire, entraîner et faire des prédictions avec des réseaux de neurones. Vous apprendrez à définir des couches denses, à appliquer des fonctions d'activation, à choisir un optimiseur et à utiliser la régularisation pour réduire le surapprentissage. Vous tirerez parti de la flexibilité de TensorFlow en combinant l'algèbre linéaire de bas niveau et les opérations de l'API Keras de haut niveau pour définir et entraîner des modèles.

Exercise 1: Couches denses Exercise 2: L'algèbre linéaire des couches denses

Exercice en cours

Exercise 3: L'approche de bas niveau avec plusieurs exemples Exercise 4: Utiliser l'opération de couche dense Exercise 5: Fonctions d'activation Exercise 6: Problèmes de classification binaire Exercise 7: Problèmes de classification multiclasse Exercise 8: Optimiseurs Exercise 9: Les dangers des minima locaux Exercise 10: Éviter les minimums locaux Exercise 11: Entraîner un réseau dans TensorFlow Exercise 12: Initialisation dans TensorFlow Exercise 13: Définir le modèle et la fonction de perte Exercise 14: Entraîner des réseaux de neurones avec TensorFlow

Dans le dernier chapitre, vous utiliserez des API de haut niveau dans TensorFlow 2 pour entraîner un classificateur de lettres en langue des signes. Vous emploierez les API Keras séquentielle et fonctionnelle pour entraîner, valider, prédire et évaluer des modèles. Vous apprendrez aussi à utiliser l'API Estimators pour simplifier la définition et l'entraînement des modèles, et pour éviter les erreurs.

Exercise 1: Définir des réseaux neuronaux avec Keras Exercise 2: Le modèle séquentiel dans Keras Exercise 3: Compiler un modèle séquentiel Exercise 4: Définir un modèle à entrées multiples Exercise 5: Entraînement et validation avec Keras Exercise 6: Entraîner avec Keras Exercise 7: Mesures et validation avec Keras Exercise 8: Détection du surapprentissage Exercise 9: Évaluer des modèles Exercise 10: Entraîner des modèles avec l'API Estimators Exercise 11: Préparer l'entraînement avec Estimators Exercise 12: Définir des estimateurs Exercise 13: Félicitations !