1.ª parte: Definición del modelo completo
Aquí implementarás las últimas capas del modelo codificador-decodificador. Utilizarás las capas « Dense » y « TimeDistributed » para obtener las predicciones finales (es decir, las probabilidades de las palabras francesas predichas) del modelo codificador-decodificador.
Se te proporcionan el codificador y el decodificador (sin la parte superior) que has implementado hasta ahora. Se proporciona la salida del decodificador GRU layer's de_out. Utilizamos el prefijo en (por ejemplo, en_gru) para indicar cualquier cosa relacionada con el codificador y de para indicar cosas relacionadas con el decodificador (por ejemplo, de_gru).
Este ejercicio forma parte del curso
Traducción automática con Keras
Instrucciones del ejercicio
- Importa las capas
DenseyTimeDistributeddesde Keras. - Define una capa de control de error (
Dense) con activación de tipo «todo encendido/apagado» (softmax) que tenga salidas de control de error (fr_vocab). - Envuelve la capa «
Dense» en una capa «TimeDistributed». - Obtén la predicción final del modelo pasando «
de_out» a la capa «de_dense_time».
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)