Partea 1: Definirea modelului complet
Aici vei implementa ultimele straturi ale modelului encoder-decoder. Vei folosi straturile Dense și TimeDistributed pentru a obține predicțiile finale (adică probabilitățile cuvintelor franceze prezise) ale modelului encoder-decoder.
Îți sunt furnizate encoder-ul și decoder-ul (fără partea superioară) implementate până acum. Ieșirea de_out a stratului GRU din decoder este deja disponibilă. Folosim prefixul en (de exemplu, en_gru) pentru tot ce ține de encoder și de pentru tot ce ține de decoder (de exemplu, de_gru).
Acest exercițiu face parte din cursul
Traducere automată cu Keras
Instrucțiuni pentru exercițiu
- Importă straturile
DenseșiTimeDistributeddin Keras. - Definește un strat
Densecu activaresoftmaxcare arefr_vocabieșiri. - Înfășoară stratul
Denseîntr-un stratTimeDistributed. - Obține predicția finală a modelului transmițând
de_outstratuluide_dense_time.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)