Postav svůj LSTM model
Sekvence textu máš připravené. Teď je čas postavit LSTM model!
Každá sekvence obsahuje 4 slova – model se natrénuje na prvních třech slovech každé sekvence a bude předpovídat čtvrté. Použiješ vrstvu Embedding, která se naučí převádět slova na smysluplné vektory. Tyto vektory pak vstoupí do jednoduché vrstvy LSTM. Výstupem je vrstva Dense s tolika neurony, kolik je slov ve slovníku, a aktivací softmax. Díky tomu model vybere nejpravděpodobnější další slovo ze všech možných.
Velikost slovníku (počet unikátních slov) je uložena v proměnné vocab_size.
Toto cvičení je součástí kurzu
Úvod do hlubokého učení s Keras
Pokyny k cvičení
- Importuj vrstvy
Embedding,LSTMaDenseztensorflow.keraslayers. - Přidej vrstvu
Embedding()o velikosti slovníku, která převede slova na vektory délky 8 a bude přijímat sekvence délky 3. - Přidej vrstvu
LSTM()s 32 neurony. - Přidej skrytou vrstvu
Dense()s 32 neurony a výstupní vrstvu svocab_sizeneurony a aktivacísoftmax.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Import the Embedding, LSTM and Dense layer
from tensorflow.keras.____ import ____, ____, ____
model = Sequential()
# Add an Embedding layer with the right parameters
model.add(____(input_dim = ____, input_length = ____, output_dim = ____, ))
# Add a 32 unit LSTM layer
model.add(____(____))
# Add a hidden Dense layer of 32 units and an output layer of vocab_size with softmax
model.add(Dense(____, activation='relu'))
model.add(Dense(____, activation=____))
model.summary()