Parte 1: Definindo o modelo completo

Aqui você vai implementar as últimas camadas do modelo encoder-decoder. Você usará camadas Dense e TimeDistributed para obter as predições finais (ou seja, as probabilidades das palavras em francês previstas) do modelo encoder-decoder.

Você recebe o encoder e o decoder (sem a parte superior) que implementou até agora. A saída de_out da camada GRU do decoder é fornecida. Usamos o prefixo en (por exemplo, en_gru) para indicar qualquer elemento relacionado ao encoder e de para indicar os elementos do decoder (por exemplo, de_gru).

Este exercício faz parte do curso

Machine Translation with Keras

Ver curso

Instruções do exercício

Importe as camadas Dense e TimeDistributed do Keras.
Defina uma camada Dense com ativação softmax que tenha fr_vocab saídas.
Envolva a camada Dense em uma camada TimeDistributed.
Obtenha a predição final do modelo passando de_out para a camada de_dense_time.

Exercício interativo prático

Experimente este exercício completando este código de exemplo.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Editar e executar o código