Створення моделі генерування тексту
У цій вправі ви визначите модель генерування тексту за допомогою Keras.
Змінні n_vocab, що містить розмір словника, і input_shape, що містить форму даних для навчання, уже завантажені в середовище. Також ваги попередньо навченої моделі доступні у файлі model_weights.h5. Модель було навчено протягом 40 епох на тренувальних даних. Нагадаємо, щоб навчити модель у Keras, достатньо викликати метод .fit() на тренувальних даних (X, y) і задати параметр epochs. Наприклад:
model.fit(X_train, y_train, epochs=40)
Ця вправа є частиною курсу
Recurrent Neural Networks (RNNs) для моделювання мови з Keras
Інструкції до вправи
- Додайте один шар
LSTM, що повертає послідовності. - Додайте один шар
LSTM, що не повертає послідовності. - Додайте вихідний шар із кількістю вузлів
n_vocab. - Відобразіть зведення моделі.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Instantiate the model
model = Sequential(name="LSTM model")
# Add two LSTM layers
model.add(____(64, input_shape=input_shape, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="Input_layer"))
model.add(____(64, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="LSTM_hidden"))
# Add the output layer
model.add(Dense(____, activation='softmax', name="Output_layer"))
# Compile and load weights
model.compile(loss='categorical_crossentropy', optimizer='adam')
model.load_weights('model_weights.h5')
# Summary
model.____