1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Rekurentní neuronové sítě (RNN) pro jazykové modelování s Keras
Connected

cvičení

Transfer learning

Viděl/a jsi, že trénování embedding vrstvy vyžaduje naučit velké množství parametrů.

V tomto cvičení zjistíš, že při použití transfer learningu je možné využít předtrénované váhy a neaktualizovat je – parametry embedding vrstvy zůstanou pevně dané a model se bude muset učit pouze parametry ostatních vrstev.

Funkce load_glove je již načtena v prostředí a vrací matici GloVe jako vektor numpy.ndarray. Používá funkci z prezentace lekce k načtení GloVe vektorů s 200 embedding dimenzemi pro slovní zásobu použitou v tomto cvičení.

Pokyny

100 XP
  • Použij předpřipravenou funkci k načtení GloVe vektorů.
  • Použij inicializátor Constant na předtrénované vektory.
  • Přidej výstupní vrstvu jako Dense s jednou jednotkou.
  • Vypiš shrnutí a zkontroluj počet trénovatelných parametrů.