1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Rekurentní neuronové sítě (RNN) pro jazykové modelování s Keras
Connected

cvičení

Výchozí bod pro transfer learning

V tomto cvičení uvidíš, jakou výhodu přináší použití předtrénovaných vektorů jako výchozího bodu pro model.

Porovnáš přesnost dvou modelů trénovaných po dvou epochách. Architektura modelů je stejná: jedna embedding vrstva, jedna vrstva LSTM se 128 jednotkami a výstupní vrstva s 5 jednotkami odpovídajícími počtu tříd v ukázkových datech. Rozdíl spočívá v tom, že jeden model využívá předtrénované vektory v embedding vrstvě (transfer learning) a druhý ne.

Jako předtrénované vektory byly použity GloVE s 200 dimenzemi. Historie přesnosti na validační sadě obou modelů je dostupná v proměnných history_no_emb a history_emb.

Pokyny

100 XP
  • Importuj modul matplotlib.pyplot jako plt.
  • Přidej do grafu seznam hodnot přesnosti z modelu bez embeddingů.
  • Přidej do grafu seznam hodnot přesnosti z modelu s embeddingy.
  • Zobraz graf pomocí metody .show().