Část 1: Definování celého modelu

V tomto cvičení implementuješ poslední vrstvy modelu encoder-decoder. Použiješ vrstvy Dense a TimeDistributed, abys získal/a výsledné předpovědi (tedy pravděpodobnosti francouzských slov) modelu encoder-decoder.

K dispozici máš encoder a decoder (bez horní části), které jsi zatím implementoval/a. Výstup de_out vrstvy GRU dekodéru je již připraven. Předpona en (např. en_gru) označuje vše, co souvisí s encoderem, a předpona de vše, co souvisí s decoderem (např. de_gru).

Toto cvičení je součástí kurzu

Machine Translation with Keras

Zobrazit kurz

Pokyny k cvičení

Importuj vrstvy Dense a TimeDistributed z Kerasu.
Definuj vrstvu Dense s aktivací softmax, která má fr_vocab výstupů.
Obal vrstvu Dense do vrstvy TimeDistributed.
Výslednou předpověď modelu získáš předáním de_out do vrstvy de_dense_time.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Upravit a spustit kód