1. Nauka
    2. /
  2. Kursy
    3. /
  3. Deep Learning intermediar cu PyTorch
Connected

ćwiczenie

Rețea LSTM

Așa cum știi deja, celulele RNN simple nu prea sunt folosite în practică. O alternativă mai populară, care gestionează mult mai bine secvențele lungi, este reprezentată de celulele Long Short-Term Memory, sau LSTM. În acest exercițiu, vei construi chiar tu o rețea LSTM!

Cea mai importantă diferență față de rețeaua RNN pe care ai construit-o anterior vine din faptul că LSTM-urile au două stări ascunse în loc de una. Asta înseamnă că va trebui să inițializezi această stare ascunsă suplimentară și să o transmiți celulei LSTM.

torch și torch.nn au fost deja importate, așa că poți începe să scrii codul!

Instrukcje

100 XP
  • În metoda .__init__(), definește un strat LSTM și atribuie-l lui self.lstm.
  • În metoda forward(), inițializează prima stare ascunsă de memorie pe termen lung, c0, cu zerouri.
  • În metoda forward(), transmite toate cele trei intrări stratului LSTM: intrările de la pasul de timp curent și o tuplă care conține cele două stări ascunse.