1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Machine Translation with Keras
Connected

Cvičení

Definování enkodéru

V tomto cvičení uděláš první krok k vytvoření modelu pro strojový překlad: implementuješ enkodér. Enkodér, který budeš implementovat, je ve srovnání se složitými modely používanými v praxi — například v překladači Google — velmi jednoduchý. Ale neboj se, i přes svou jednoduchost stojí na stejných principech jako ty složitější. Prefix en (např. en_gru) budeme používat pro vše, co se týká enkodéru, a de pro části dekodéru (např. de_gru).

Všimni si, že hodnota en_vocab je nastavena na 150, což je méně než skutečná hodnota 228, kterou jsme zjistili. Menší slovník snižuje paměťové nároky modelu. Toto mírné zmenšení nevadí, protože odstraňujeme pouze ta nejméně častá slova. V úlohách strojového překladu mají vzácná slova obvykle menší hodnotu než slova běžná.

Pokyny

100 XP
  • Definuj vrstvu Input pro vstup s velikostí slovníku en_vocab a délkou sekvence en_len pomocí argumentu shape.
  • Definuj vrstvu keras.layers.GRU s hsize skrytými jednotkami, která vrací svůj stav.
  • Získej výstupy z vrstvy GRU tak, že jí předáš en_inputs, stav GRU ulož do en_state a výstup do en_out.
  • Definuj keras.models.Model, jehož vstupem je en_inputs a výstupem en_state, a vypiš shrnutí modelu.