Titik awal transfer learning
Dalam latihan ini Anda akan melihat manfaat menggunakan vektor pralatih sebagai titik awal untuk model Anda.
Anda akan membandingkan akurasi dua model yang dilatih selama dua epoch. Arsitektur kedua model sama: Satu lapisan embedding, satu lapisan LSTM dengan 128 unit, dan lapisan keluaran dengan 5 unit yang merupakan jumlah kelas pada data contoh. Perbedaannya adalah salah satu model menggunakan vektor pralatih pada lapisan embedding (transfer learning) dan yang lainnya tidak.
Vektor pralatih yang digunakan adalah GloVE berdimensi 200. Riwayat akurasi data validasi dari kedua model tersedia dalam variabel history_no_emb dan history_emb.
Latihan ini merupakan bagian dari kursus
Recurrent Neural Networks (RNN) untuk Pemodelan Bahasa dengan Keras
Instruksi latihan
- Impor modul
matplotlib.pyplotsebagaiplt. - Tambahkan daftar akurasi dari model tanpa embedding ke dalam plot.
- Tambahkan daftar akurasi dari model dengan embedding ke dalam plot.
- Tampilkan plot menggunakan metode
.show().
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Import plotting package
import matplotlib.____ as ____
# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')
# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')
# Display the plot
plt.____