Première partie : Définition du modèle complet
Vous allez maintenant implémenter les dernières couches du modèle encodeur-décodeur. Vous utiliserez les couches « Dense » et « TimeDistributed » pour obtenir les prédictions finales (c'est-à-dire les probabilités des mots français prédits) du modèle encodeur-décodeur.
Vous disposez de l'encodeur et du décodeur (sans la partie supérieure) que vous avez implémentés jusqu'à présent. La sortie de la couche d'GRU du décodeur est fournie. de_out Nous utilisons le préfixe en (par exemple en_gru) pour désigner tout ce qui concerne l'encodeur et de pour désigner tout ce qui concerne le décodeur (par exemple de_gru).
Cet exercice fait partie du cours
Traduction automatique avec Keras
Instructions
- Importez les couches «
Dense» et «TimeDistributed» depuis Keras. - Définissez une couche d'
Denseavec une activation de type «softmax» et des sorties de type «fr_vocab». - Enveloppez la couche d'
Denses dans une couche d'TimeDistributed. - Obtenez la prédiction finale du modèle en transmettant l'
de_outà la couche d'de_dense_time.
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)