1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Deep Learning for Text with PyTorch
Connected

cvičení

Trénování a testování modelu Transformer

Teď, když máš model TransformerEncoder připravený, je dalším krokem v PyBooks jeho trénování na ukázkových recenzích a vyhodnocení výkonu. Trénování na těchto recenzích pomůže PyBooks lépe porozumět sentimentálním trendům v jejich rozsáhlém repozitáři. Dobře natrénovaný model umožní PyBooks automatizovat analýzu sentimentu a zajistit čtenářům hodnotnější doporučení a zpětnou vazbu.

Následující balíčky jsou již naimportované: torch, nn, optim.

Instance model třídy TransformerEncoder, token_embeddings a proměnné train_sentences, train_labels, test_sentences, test_labels jsou pro tebe předem načtené.

Pokyny

100 XP
  • V trénovací smyčce rozděl věty na tokeny a složi jejich embeddingy.
  • Vynuluj gradienty a proveď zpětný průchod.
  • Ve funkci predict deaktivuj výpočet gradientů a získej předpověď sentimentu.