Erstellen des Textgenerierungsmodells
In dieser Übung wirst du ein Modell zur Textgenerierung mit Keras erstellen.
Die Variablen „ n_vocab “, die die Größe des Vokabulars enthält, und „ input_shape “, die die Form der für das Training verwendeten Daten enthält, sind bereits in die Umgebung geladen. Außerdem sind die Gewichte eines vortrainierten Modells in der Datei „ model_weights.h5 “ verfügbar. Das Modell wurde mit 40 Epochen auf den Trainingsdaten trainiert. Zur Erinnerung: Um ein Modell in Keras zu trainieren, benutzt du einfach die Methode „ .fit() ” auf die Trainingsdaten „ (X, y) ” und den Parameter „ epochs ”. Zum Beispiel:
model.fit(X_train, y_train, epochs=40)
Diese Übung ist Teil des Kurses
Rekursive neuronale Netze (RNNs) für die Sprachmodellierung mit Keras
Anleitung zur Übung
- Füge eine „
LSTM“-Schicht hinzu, die die Sequenzen zurückgibt. - Füge eine „
LSTM“-Schicht hinzu, die die Sequenzen nicht zurückgibt. - Füge die Ausgabeschicht mit den Einheiten „
n_vocab“ hinzu. - Zeig die Modellübersicht an.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
# Instantiate the model
model = Sequential(name="LSTM model")
# Add two LSTM layers
model.add(____(64, input_shape=input_shape, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="Input_layer"))
model.add(____(64, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="LSTM_hidden"))
# Add the output layer
model.add(Dense(____, activation='softmax', name="Output_layer"))
# Compile and load weights
model.compile(loss='categorical_crossentropy', optimizer='adam')
model.load_weights('model_weights.h5')
# Summary
model.____