Частина 1: Визначення повної моделі

Тут ви реалізуєте останні кілька шарів моделі «енкодер–декодер». Ви використаєте шари Dense і TimeDistributed, щоб отримати фінальні передбачення (ймовірності передбачених французьких слів) моделі «енкодер–декодер».

Вам надано енкодер і декодер (без верхньої частини), які ви вже реалізували. Вихід шару GRU декодера de_out також надано. Ми використовуємо префікс en (наприклад, en_gru) для позначення всього, що стосується енкодера, і de для всього, що стосується декодера (наприклад, de_gru).

Ця вправа є частиною курсу

Machine Translation з Keras

Переглянути курс

Інструкції до вправи

Імпортуйте шари Dense і TimeDistributed з Keras.
Визначте шар Dense з активацією softmax, який має fr_vocab виходів.
Обгорніть шар Dense у шар TimeDistributed.
Отримайте фінальне передбачення моделі, передавши de_out у шар de_dense_time.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Редагувати та запускати код