Del 1: Definiera den fullständiga modellen
Här implementerar du de sista lagren i encoder-decoder-modellen. Du använder Dense- och TimeDistributed-lager för att få modellens slutliga förutsägelser, det vill säga de beräknade sannolikheterna för franska ord.
Du har tillgång till den encoder och decoder (utan den övre delen) som du implementerat tidigare. Utdata från decoder-lagret GRU, de_out, är redan tillhandahållet. Vi använder prefixet en (t.ex. en_gru) för att beteckna allt som hör till encodern och de för allt som hör till decodern (t.ex. de_gru).
Den här övningen är en del av kursen
Maskinöversättning med Keras
Övningsinstruktioner
- Importera
Dense- ochTimeDistributed-lager från Keras. - Definiera ett
Dense-lager medsoftmax-aktivering som harfr_vocabutdata. - Omslut
Dense-lagret i ettTimeDistributed-lager. - Hämta modellens slutliga förutsägelse genom att skicka
de_outtill lagretde_dense_time.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)