Costruisci il tuo modello LSTM
Hai già preparato le tue sequenze di testo. È il momento di costruire il tuo modello LSTM!
Ricorda: le tue sequenze hanno 4 parole ciascuna; il modello sarà addestrato sulle prime tre parole di ogni sequenza per predire la quarta. Userai un livello Embedding che imparerà a trasformare le parole in vettori significativi. Questi vettori verranno poi passati a un semplice livello LSTM. L'output è un livello Dense con tanti neuroni quanti sono le parole nel vocabolario e attivazione softmax. Questo perché vogliamo ottenere la parola successiva più probabile tra tutte le possibili.
La dimensione del vocabolario (numero di parole uniche) è salvata in vocab_size.
Questo esercizio fa parte del corso
Introduzione al Deep Learning con Keras
Istruzioni dell'esercizio
- Importa i livelli
Embedding,LSTMeDensedatensorflow.keraslayers. - Aggiungi un livello
Embedding()della dimensione del vocabolario, che trasformi le parole in vettori di 8 numeri e riceva sequenze di lunghezza 3. - Aggiungi un livello
LSTM()con 32 neuroni. - Aggiungi un livello nascosto
Dense()da 32 neuroni e un livello di output convocab_sizeneuroni esoftmax.
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
# Import the Embedding, LSTM and Dense layer
from tensorflow.keras.____ import ____, ____, ____
model = Sequential()
# Add an Embedding layer with the right parameters
model.add(____(input_dim = ____, input_length = ____, output_dim = ____, ))
# Add a 32 unit LSTM layer
model.add(____(____))
# Add a hidden Dense layer of 32 units and an output layer of vocab_size with softmax
model.add(Dense(____, activation='relu'))
model.add(Dense(____, activation=____))
model.summary()