1. Nauka
  2. /
  3. Kursy
  4. /
  5. Tłumaczenie maszynowe z Keras

Connected

ćwiczenie

Definiowanie dekodera

W tym ćwiczeniu zaimplementujesz dekoder i zdefiniujesz model end-to-end – od wejść enkodera do wyjść GRU dekodera. Dekoder korzysta z tego samego modelu co enkoder, ale różni się od niego pod względem wejść i stanów. Na przykład dekoder przyjmuje jako wejście wektor kontekstu wyprodukowany przez enkoder, a także jego stan początkowy. Pamiętaj, że używamy przedrostka en (np. en_gru) dla elementów związanych z enkoderem oraz de dla elementów związanych z dekoderem (np. de_gru).

Do implementacji dekodera użyjesz warstw RepeatVector i GRU.

W tym ćwiczeniu masz już dostęp do modelu enkodera oraz jego poszczególnych warstw, które zostały wcześniej zaimplementowane. Na przykład wejścia enkodera są dostępne jako en_inputs, a wektor kontekstu jako en_state. Obiekty GRU i Model zostały już zaimportowane.

Instrukcje

100 XP
  • Zdefiniuj warstwę RepeatVector, która przyjmuje en_state jako wejście i powtarza go fr_len razy.
  • Zdefiniuj warstwę GRU o nazwie decoder_gru, która ma liczbę jednostek ukrytych równą hsize i zwraca wszystkie produkowane wyjścia.
  • Pobierz wyjście warstwy decoder_gru, podając de_inputs jako wejście oraz en_state jako stan początkowy dekodera.
  • Zdefiniuj model, który przyjmuje en_inputs jako wejście i gru_outputs jako wyjście.