1. Nauka
    2. /
  2. Kursy
    3. /
  3. Wprowadzenie do uczenia głębokiego z Keras
Connected

ćwiczenie

Zbuduj model LSTM

Sekwencje tekstu masz już przygotowane. Czas zbudować model LSTM!

Pamiętaj, że każda sekwencja składa się z 4 słów – model będzie uczył się na pierwszych trzech słowach każdej sekwencji i przewidywał czwarte. Użyjesz warstwy Embedding, która nauczy się przekształcać słowa w znaczące wektory. Te wektory zostaną następnie przekazane do prostej warstwy LSTM. Wyjście stanowi warstwa Dense z tyloma neuronami, ile jest słów w słowniku, z aktywacją softmax. Dzięki temu model wskazuje najlepsze prawdopodobne następne słowo spośród wszystkich możliwych.

Rozmiar słownika (liczba unikalnych słów) jest przechowywany w zmiennej vocab_size.

Instrukcje

100 XP
  • Zaimportuj warstwy Embedding, LSTM i Dense z modułu tensorflow.keras layers.
  • Dodaj warstwę Embedding() o rozmiarze słownika, która zamieni słowa na wektory 8-liczbowe i będzie przyjmować sekwencje o długości 3.
  • Dodaj warstwę LSTM() z 32 neuronami.
  • Dodaj ukrytą warstwę Dense() z 32 neuronami oraz warstwę wyjściową z vocab_size neuronami i aktywacją softmax.