1. Nauka
    2. /
  2. Kursy
    3. /
  3. Tłumaczenie maszynowe z Keras
Connected

ćwiczenie

Definiowanie modelu z osadzeniami

Zdefiniujesz model Keras, który:

  • korzysta z warstw Embedding,
  • będzie trenowany z użyciem Teacher Forcing.

Model będzie miał dwie warstwy osadzeń (embeddings) – jedną dla enkodera i jedną dla dekodera. Ponieważ model jest trenowany z użyciem Teacher Forcing, warstwa Input dekodera przyjmuje sekwencje o długości fr_len-1.

W tym ćwiczeniu wszystkie potrzebne elementy keras.layers oraz Model są już zaimportowane. Dostępne są też zmienne: en_len (długość sekwencji angielskiej), fr_len (długość sekwencji francuskiej), en_vocab (rozmiar słownika angielskiego), fr_vocab (rozmiar słownika francuskiego) oraz hsize (rozmiar warstwy ukrytej).

Instrukcje

100 XP
  • Zdefiniuj warstwę Input, która przyjmuje sekwencję identyfikatorów słów.
  • Zdefiniuj warstwę Embedding osadzającą słowa z en_vocab, o długości 96, która przyjmuje sekwencję identyfikatorów (długość sekwencji określa argument input_length).
  • Zdefiniuj warstwę Embedding osadzającą słowa z fr_vocab, o długości 96, która przyjmuje sekwencję fr_len-1 identyfikatorów.
  • Zdefiniuj model, który przyjmuje dane wejściowe z enkodera i dekodera (w tej kolejności) i zwraca predykcje słów.