ÎncepețiÎncepe gratuit

Punct de plecare cu transfer learning

În acest exercițiu vei vedea avantajul utilizării vectorilor pre-antrenați ca punct de plecare pentru modelul tău.

Vei compara acuratețea a două modele antrenate timp de două epoci. Arhitectura modelelor este identică: un strat de încorporare (embedding), un strat LSTM cu 128 de unități și un strat de ieșire cu 5 unități, corespunzând numărului de clase din datele eșantion. Diferența constă în faptul că un model folosește vectori pre-antrenați în stratul de încorporare (transfer learning), iar celălalt nu.

Vectorii pre-antrenați utilizați sunt GloVE cu 200 de dimensiuni. Istoricul acuratețelor pe setul de validare al ambelor modele este disponibil în variabilele history_no_emb și history_emb.

Acest exercițiu face parte din cursul

Rețele Neuronale Recurente (RNN) pentru Modelare a Limbajului cu Keras

Vezi cursul

Instrucțiuni pentru exercițiu

  • Importă modulul matplotlib.pyplot cu aliasul plt.
  • Adaugă lista acuratețelor din modelul fără încorporări (embeddings) în grafic.
  • Adaugă lista acuratețelor din modelul cu încorporări (embeddings) în grafic.
  • Afișează graficul folosind metoda .show().

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Import plotting package
import matplotlib.____ as ____

# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')

# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')

# Display the plot
plt.____
Editează și rulează codul