Membuat model pembangkit teks
Dalam latihan ini, Anda akan mendefinisikan model pembangkit teks menggunakan Keras.
Variabel n_vocab yang memuat ukuran kosakata dan input_shape yang memuat bentuk data untuk pelatihan sudah dimuat ke dalam lingkungan. Selain itu, bobot dari model terlatih tersedia pada berkas model_weights.h5. Model tersebut dilatih selama 40 epoch pada data pelatihan. Ingat kembali bahwa untuk melatih model di Keras, Anda cukup menggunakan metode .fit() pada data pelatihan (X, y), dengan parameter epochs. Contohnya:
model.fit(X_train, y_train, epochs=40)
Latihan ini merupakan bagian dari kursus
Recurrent Neural Networks (RNN) untuk Pemodelan Bahasa dengan Keras
Instruksi latihan
- Tambahkan satu layer
LSTMyang mengembalikan urutan (returning the sequences). - Tambahkan satu layer
LSTMyang tidak mengembalikan urutan. - Tambahkan layer keluaran dengan
n_vocabunit. - Tampilkan ringkasan model.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Instantiate the model
model = Sequential(name="LSTM model")
# Add two LSTM layers
model.add(____(64, input_shape=input_shape, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="Input_layer"))
model.add(____(64, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="LSTM_hidden"))
# Add the output layer
model.add(Dense(____, activation='softmax', name="Output_layer"))
# Compile and load weights
model.compile(loss='categorical_crossentropy', optimizer='adam')
model.load_weights('model_weights.h5')
# Summary
model.____