Creación del modelo de generación de texto
En este ejercicio, definirás un modelo de generación de texto utilizando Keras.
Las variables « n_vocab », que contiene el tamaño del vocabulario, y « input_shape », que contiene la forma de los datos utilizados para el entrenamiento, ya están cargadas en el entorno. Además, los pesos de un modelo preentrenado están disponibles en el archivo model_weights.h5. El modelo se entrenó con 40 épocas en los datos de entrenamiento. Recapitulando, para entrenar un modelo en Keras, solo tienes que utilizar el método .fit() con los datos de entrenamiento (X, y) y el parámetro epochs. Por ejemplo:
model.fit(X_train, y_train, epochs=40)
Este ejercicio forma parte del curso
Redes neuronales recurrentes (RNN) para el modelado del lenguaje con Keras
Instrucciones del ejercicio
- Añade una capa «
LSTM» que devuelva las secuencias. - Añade una capa «
LSTM» que no devuelva las secuencias. - Añade la capa de salida con un
n_vocabs de unidades. - Muestra el resumen del modelo.
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
# Instantiate the model
model = Sequential(name="LSTM model")
# Add two LSTM layers
model.add(____(64, input_shape=input_shape, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="Input_layer"))
model.add(____(64, dropout=0.15, recurrent_dropout=0.15, return_sequences=____, name="LSTM_hidden"))
# Add the output layer
model.add(Dense(____, activation='softmax', name="Output_layer"))
# Compile and load weights
model.compile(loss='categorical_crossentropy', optimizer='adam')
model.load_weights('model_weights.h5')
# Summary
model.____