ПочатиПочніть безкоштовно

Побудуйте свою модель LSTM

Ви вже підготували свої текстові послідовності. Час побудувати модель LSTM!

Пам'ятайте, у ваших послідовностях було по 4 слова. Модель навчатиметься на перших трьох словах кожної послідовності, передбачаючи четверте. Ви використаєте шар Embedding, який навчиться перетворювати слова на змістовні вектори. Далі ці вектори буде передано до простого шару LSTM. Вихід — шар Dense з кількістю нейронів, що дорівнює розміру словника, та активацією softmax. Так ми зможемо отримати слово з найбільшою ймовірністю з-поміж усіх можливих.

Розмір словника слів (кількість унікальних слів) збережено в vocab_size.

Ця вправа є частиною курсу

Вступ до Deep Learning з Keras

Переглянути курс

Інструкції до вправи

  • Імпортуйте шари Embedding, LSTM і Dense з tensorflow.keras layers.
  • Додайте шар Embedding() розміру словника, який перетворюватиме слова на вектори з 8 чисел і отримуватиме послідовності довжини 3.
  • Додайте шар LSTM() на 32 нейрони.
  • Додайте прихований шар Dense() на 32 нейрони та вихідний шар на vocab_size нейронів із softmax.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

# Import the Embedding, LSTM and Dense layer
from tensorflow.keras.____ import ____, ____, ____

model = Sequential()

# Add an Embedding layer with the right parameters
model.add(____(input_dim = ____, input_length = ____, output_dim = ____, ))

# Add a 32 unit LSTM layer
model.add(____(____))

# Add a hidden Dense layer of 32 units and an output layer of vocab_size with softmax
model.add(Dense(____, activation='relu'))
model.add(Dense(____, activation=____))
model.summary()
Редагувати та запускати код