Phần 1: Định nghĩa mô hình đầy đủ

Ở đây bạn sẽ hiện thực các layer cuối của mô hình encoder-decoder. Bạn sẽ dùng các layer Dense và TimeDistributed để lấy dự đoán cuối cùng (tức là phân phối xác suất từ tiếng Pháp dự đoán) của mô hình encoder-decoder.

Bạn được cung cấp encoder và decoder (chưa có phần trên cùng) mà bạn đã hiện thực đến thời điểm này. Đầu ra de_out của layer GRU phía decoder được cung cấp. Ta dùng tiền tố en (ví dụ: en_gru) cho các thành phần thuộc encoder và de cho các thành phần thuộc decoder (ví dụ: de_gru).

Bài tập này là một phần của khóa học

Machine Translation với Keras

Xem khóa học

Hướng dẫn bài tập

Import các layer Dense và TimeDistributed từ Keras.
Định nghĩa một layer Dense với kích hoạt softmax có số đầu ra bằng fr_vocab.
Bọc layer Dense trong một layer TimeDistributed.
Lấy dự đoán cuối cùng của mô hình bằng cách truyền de_out vào layer de_dense_time.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Import Dense and TimeDistributed layers
from tensorflow.keras.____ import ____, ____
# Define a softmax dense layer that has fr_vocab outputs
de_dense = ____(____, ____)
# Wrap the dense layer in a TimeDistributed layer
de_dense_time = ____(de_dense)
# Get the final prediction of the model
de_pred = ____(de_out)
print("Prediction shape: ", de_pred.shape)

Chỉnh sửa và Chạy Mã