1. Learn
    2. /
  2. Kurser
    3. /
  3. Rekurencyjne sieci neuronowe (RNN) do modelowania języka w Keras
Connected

övning

Porównanie liczby parametrów

Reprezentacja one-hot nie jest dobrym sposobem kodowania słów, ponieważ jest bardzo rzadka. Warstwa Embedding tworzy gęstą reprezentację wektorów, ale wymaga nauczenia się dużej liczby parametrów.

W tym ćwiczeniu porównasz liczbę parametrów dwóch modeli – jednego używającego osadzeń (embeddings), a drugiego kodowania one-hot – aby zobaczyć różnicę.

Model model_onehot jest już załadowany w środowisku, podobnie jak Sequential, Dense i GRU z keras. Załadowane są również parametry vocabulary_size=80000 i sentence_len=200.

Instruktioner

100 XP
  • Zaimportuj warstwę Embedding z keras.layers.
  • W warstwie osadzenia użyj rozmiaru słownictwa powiększonego o jeden jako wymiaru wejściowego oraz rozmiaru zdania jako długości wejścia.
  • Skompiluj model.
  • Wyświetl podsumowanie modelu z osadzeniem.