1. Learn
  2. /
  3. Courses
  4. /
  5. Kerasで学ぶ言語モデリングのためのRecurrent Neural Networks (RNNs)

Connected

Exercise

転移学習

埋め込み層を学習するとき、多くのパラメータを学習する必要があることを見ました。

この演習では、転移学習を使うと事前学習済みの重みをそのまま利用して更新しない(固定する)ことができ、埋め込み層のすべてのパラメータは固定され、モデルは他の層のパラメータだけを学習すればよいことを確認します。

関数 load_glove はすでに環境に読み込まれており、glove 行列を numpy.ndarray ベクトルとして取得します。レッスンのスライドで扱った関数を使って、この演習で用いる語彙に対し、埋め込み次元が200の glove ベクトルを取得します。

Instructions

100 XP
  • 事前定義された関数を使って glove ベクトルを読み込みます。
  • 事前学習済みベクトルに対して初期化子 Constant を使用します。
  • 出力層としてユニット数1の Dense を追加します。
  • summary を表示し、学習可能(trainable)パラメータを確認します。