Bangun model LSTM Anda
Anda telah menyiapkan deret teks. Sekarang saatnya membangun model LSTM!
Ingat, setiap deret berisi 4 kata; model Anda akan dilatih pada tiga kata pertama dari setiap deret untuk memprediksi kata ke-4. Anda akan menggunakan lapisan Embedding yang pada dasarnya mempelajari cara mengubah kata menjadi vektor yang bermakna. Vektor-vektor ini kemudian diteruskan ke lapisan LSTM sederhana. Keluaran kita adalah lapisan Dense dengan jumlah neuron sebanyak jumlah kata dalam kosakata dan aktivasi softmax. Ini karena kita ingin memperoleh kata berikutnya dengan probabilitas tertinggi dari semua kemungkinan kata.
Ukuran kosakata (jumlah kata unik) disimpan dalam vocab_size.
Latihan ini merupakan bagian dari kursus
Pengantar Deep Learning dengan Keras
Instruksi latihan
- Impor layer
Embedding,LSTM, danDensedari layertensorflow.keras. - Tambahkan layer
Embedding()sebesar ukuran kosakata, yang akan mengubah kata menjadi vektor berdimensi 8 dan menerima deret sepanjang 3. - Tambahkan layer
LSTM()dengan 32 neuron. - Tambahkan layer tersembunyi
Dense()dengan 32 neuron dan layer keluaran denganvocab_sizeneuron menggunakansoftmax.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Import the Embedding, LSTM and Dense layer
from tensorflow.keras.____ import ____, ____, ____
model = Sequential()
# Add an Embedding layer with the right parameters
model.add(____(input_dim = ____, input_length = ____, output_dim = ____, ))
# Add a 32 unit LSTM layer
model.add(____(____))
# Add a hidden Dense layer of 32 units and an output layer of vocab_size with softmax
model.add(Dense(____, activation='relu'))
model.add(Dense(____, activation=____))
model.summary()