エンコーダの定義

ここでは、機械翻訳モデルを作る最初の一歩として、エンコーダを実装します。これから実装するエンコーダは、Google の機械翻訳サービスのような実運用の複雑なモデルに比べるととてもシンプルです。ただしご安心ください。モデル自体は簡単でも、基礎となる考え方は複雑なモデルと同じです。本コースでは、エンコーダに関するものを示す接頭辞として en（例: en_gru）、デコーダに関するものを示す接頭辞として de（例: de_gru）を使います。

ここでは、実際に得られた値（228）より小さい 150 を en_vocab に設定しています。語彙数を小さくすると、モデルのメモリ使用量を抑えられます。まれな単語を削るだけなので、語彙を少し減らすのは問題ありません。機械翻訳のタスクでは、一般的に、まれな単語はよく使われる単語ほど重要ではないからです。