Parte 1: definire il modello completo
Qui implementerai gli ultimi livelli del modello encoder-decoder. Userai i livelli Dense e TimeDistributed per ottenere le previsioni finali (cioè le probabilità delle parole francesi previste) del modello encoder-decoder.
Ti vengono forniti l'encoder e il decoder (senza la parte superiore) che hai implementato finora. L'output de_out del livello GRU del decoder è fornito. Usiamo il prefisso en (ad es. en_gru) per indicare tutto ciò che è relativo all'encoder e de per indicare gli elementi relativi al decoder (ad es. de_gru).
Questo esercizio fa parte del corso
Traduzione automatica con Keras
Istruzioni dell'esercizio
- Importa i livelli
DenseeTimeDistributedda Keras. - Definisci un livello
Densecon attivazionesoftmaxche abbiafr_vocabuscite. - Incapsula il livello
Densein un livelloTimeDistributed. - Ottieni la previsione finale del modello passando
de_outal livellode_dense_time.
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)