Часть 1: определение полной модели

В этом упражнении вы реализуете последние несколько слоёв модели кодировщик-декодировщик. Для получения итоговых предсказаний (то есть вероятностей французских слов) вы будете использовать слои Dense и TimeDistributed.

Вам предоставлены кодировщик и декодировщик (без верхней части), реализованные ранее. Выходные данные слоя GRU декодировщика доступны в переменной de_out. Для обозначения элементов, связанных с кодировщиком, используется префикс en (например, en_gru), а для элементов декодировщика — префикс de (например, de_gru).

Это упражнение является частью курса

Машинный перевод с Keras

Посмотреть курс

Инструкции к упражнению

Импортируйте слои Dense и TimeDistributed из Keras.
Определите слой Dense с активацией softmax, имеющий fr_vocab выходов.
Оберните слой Dense в слой TimeDistributed.
Получите итоговое предсказание модели, передав de_out в слой de_dense_time.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Редактировать и запускать код