1. 学ぶ
  2. /
  3. コース
  4. /
  5. Kerasで学ぶMachine Translation

Connected

演習

埋め込みモデルの定義

次の内容を満たす Keras モデルを定義します。

  • Embedding レイヤーを使用する
  • Teacher Forcing で学習する

このモデルには 2 つの埋め込みレイヤー(エンコーダ用とデコーダ用)があります。さらに、Teacher Forcing で学習するため、デコーダの Input レイヤーでは系列長として fr_len-1 を使用します。

この演習では、必要な keras.layers と Model はすべてインポート済みです。加えて、en_len(英語の系列長)、fr_len(フランス語の系列長)、en_vocab(英語の語彙サイズ)、fr_vocab(フランス語の語彙サイズ)、hsize(隠れ層サイズ)の各変数は定義済みです。

指示

100 XP
  • ワードIDの系列を受け付ける Input レイヤーを定義します。
  • en_vocab 語を埋め込み、埋め込み次元を 96 とし、ID の系列を受け付けられる Embedding レイヤーを定義します(系列長は引数 input_length で指定します)。
  • fr_vocab 語を埋め込み、埋め込み次元を 96 とし、fr_len-1 個の ID の系列を受け付けられる Embedding レイヤーを定義します。
  • エンコーダからの入力とデコーダからの入力(この順番)を受け取り、単語の予測を出力するモデルを定義します。