Стартова точка transfer learning
У цій вправі ви побачите переваги використання попередньо навчених векторів як відправної точки для вашої моделі.
Ви порівняєте точність двох моделей, натренованих протягом двох епох. Архітектура моделей однакова: один шар embeddings, один шар LSTM зі 128 одиницями та вихідний шар з 5 одиницями — це кількість класів у вибірці даних. Різниця в тому, що одна модель використовує попередньо навчені вектори в шарі embeddings (transfer learning), а інша — ні.
Використані попередньо навчені вектори — це GloVE з розмірністю 200. Історії точності на валідаційній вибірці для обох моделей доступні у змінних history_no_emb і history_emb.
Ця вправа є частиною курсу
Recurrent Neural Networks (RNNs) для моделювання мови з Keras
Інструкції до вправи
- Імпортуйте модуль
matplotlib.pyplotякplt. - Додайте до графіка список значень точності з моделі без embeddings.
- Додайте до графіка список значень точності з моделі з embeddings.
- Відобразіть графік за допомогою методу
.show().
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Import plotting package
import matplotlib.____ as ____
# Insert lists of accuracy obtained on the validation set
plt.plot(____['acc'], marker='o')
plt.plot(history_emb[____], marker='o')
# Add extra descriptions to plot
plt.title('Learning with and without pre-trained embedding vectors')
plt.ylabel('accuracy')
plt.xlabel('epoch')
plt.legend(['no_embeddings', 'with_embeddings'], loc='upper left')
# Display the plot
plt.____