1. Learn
  2. /
  3. Courses
  4. /
  5. Kerasで学ぶ言語モデリングのためのRecurrent Neural Networks (RNNs)

Connected

Exercise

トランスファーラーニングの出発点

この演習では、事前学習済みベクトルをモデルの初期値として使う利点を確認します。

2 エポックで学習した2つのモデルの正解率を比較します。どちらのモデルもアーキテクチャは同じで、埋め込み層、128ユニットの LSTM 層、そしてサンプルデータのクラス数にあたる5ユニットの出力層から成ります。違いは、片方のモデルは埋め込み層に事前学習済みベクトル(トランスファーラーニング)を用い、もう片方は用いない点です。

使用する事前学習済みベクトルは 200 次元の GloVE です。両モデルの検証データに対する学習時の正解率の履歴は、history_no_emb と history_emb に用意されています。

Instructions

100 XP
  • モジュール matplotlib.pyplot を plt としてインポートします。
  • 埋め込みを使わないモデルの正解率のリストをプロットに追加します。
  • 埋め込みを使うモデルの正解率のリストをプロットに追加します。
  • .show() メソッドでプロットを表示します。