Bagian 1: Mendefinisikan model lengkap

Di sini Anda akan mengimplementasikan beberapa layer terakhir dari model encoder-decoder. Anda akan menggunakan layer Dense dan TimeDistributed untuk memperoleh prediksi akhir (yaitu probabilitas kata bahasa Prancis yang diprediksi) dari model encoder-decoder.

Anda disediakan encoder dan decoder (tanpa bagian atas) yang telah Anda implementasikan sejauh ini. Keluaran de_out dari layer GRU pada decoder disediakan. Kami menggunakan awalan en (misalnya en_gru) untuk menandai apa pun yang terkait dengan encoder dan de untuk hal-hal yang terkait dengan decoder (misalnya de_gru).

Latihan ini adalah bagian dari kursus

Penerjemahan Mesin dengan Keras

Lihat Kursus

Petunjuk latihan

Impor layer Dense dan TimeDistributed dari Keras.
Definisikan sebuah layer Dense dengan aktivasi softmax yang memiliki keluaran fr_vocab.
Bungkus layer Dense tersebut di dalam layer TimeDistributed.
Dapatkan prediksi akhir model dengan meneruskan de_out ke layer de_dense_time.

Latihan interaktif praktis

Cobalah latihan ini dengan menyelesaikan kode contoh berikut.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Edit dan Jalankan Kode