Bắt đầu ngayBắt đầu miễn phí

Xây dựng mô hình LSTM của bạn

Bạn đã chuẩn bị xong các chuỗi văn bản. Đến lúc xây dựng mô hình LSTM!

Hãy nhớ là mỗi chuỗi của bạn có 4 từ; mô hình sẽ được huấn luyện trên 3 từ đầu tiên của mỗi chuỗi để dự đoán từ thứ 4. Bạn sẽ dùng một lớp Embedding để học cách biến các từ thành các vector có ý nghĩa. Những vector này sau đó sẽ được đưa vào một lớp LSTM đơn giản. Đầu ra là một lớp Dense với số neuron bằng số từ trong vốn từ và dùng kích hoạt softmax. Lý do là vì chúng ta muốn chọn ra từ tiếp theo có xác suất cao nhất trong tất cả các khả năng.

Kích thước vốn từ (số lượng từ duy nhất) được lưu trong vocab_size.

Bài tập này là một phần của khóa học

Nhập môn Deep Learning với Keras

Xem khóa học

Hướng dẫn bài tập

  • Import các lớp Embedding, LSTM và Dense từ các lớp của tensorflow.keras.
  • Thêm một lớp Embedding() với kích thước vốn từ, biến các từ thành vector 8 số và nhận các chuỗi có độ dài 3.
  • Thêm một lớp LSTM() với 32 neuron.
  • Thêm một lớp ẩn Dense() 32 neuron và một lớp đầu ra vocab_size neuron với softmax.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Import the Embedding, LSTM and Dense layer
from tensorflow.keras.____ import ____, ____, ____

model = Sequential()

# Add an Embedding layer with the right parameters
model.add(____(input_dim = ____, input_length = ____, output_dim = ____, ))

# Add a 32 unit LSTM layer
model.add(____(____))

# Add a hidden Dense layer of 32 units and an output layer of vocab_size with softmax
model.add(Dense(____, activation='relu'))
model.add(Dense(____, activation=____))
model.summary()
Chỉnh sửa và Chạy Mã