Skládání vrstev RNN
Hluboké modely RNN mohou mít desítky až stovky vrstev, aby dosáhly špičkových výsledků.
V tomto cvičení si ukážeš, jak vytvářet hluboké modely RNN postupným skládáním vrstev buněk LSTM za sebou.
K tomu nastavíš argument return_sequences na True u prvních dvou vrstev LSTM a na False u poslední vrstvy LSTM.
Chceš-li model s ještě více vrstvami, můžeš je přidávat postupně za sebou, nebo si napsat funkci, která pomocí metody .add() v cyklu přidá mnoho vrstev na pár řádků kódu.
Toto cvičení je součástí kurzu
Rekurentní neuronové sítě (RNN) pro jazykové modelování s Keras
Pokyny k cvičení
- Importuj vrstvu
LSTM. - U prvních dvou vrstev nastav vracení sekvencí a u poslední vrstvy
LSTMvracení sekvencí vypni. - Načti předtrénované váhy.
- Vypiš výslednou ztrátu a přesnost.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Import the LSTM layer
from tensorflow.keras.layers import ____
# Build model
model = Sequential()
model.add(LSTM(units=128, input_shape=(None, 1), return_sequences=____))
model.add(LSTM(units=128, return_sequences=____))
model.add(LSTM(units=128, return_sequences=____))
model.add(Dense(1, activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
# Load pre-trained weights
model.____('lstm_stack_model_weights.h5')
____("Loss: %0.04f\nAccuracy: %0.04f" % tuple(model.evaluate(X_test, y_test, verbose=0)))