1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Intermediate Deep Learning with PyTorch
Connected

cvičení

Síť LSTM

Jak už víš, prosté RNN buňky se v praxi moc nepoužívají. Oblíbenější alternativou, která výrazně lépe zvládá dlouhé sekvence, jsou buňky Long Short-Term Memory, neboli LSTM. V tomto cvičení si takovou LSTM síť sestavíš sám!

Nejdůležitější implementační rozdíl oproti RNN síti, kterou jsi postavil/a dříve, spočívá v tom, že LSTM buňky pracují se dvěma skrytými stavy místo jednoho. To znamená, že budeš muset tento druhý skrytý stav inicializovat a předat ho LSTM buňce.

torch a torch.nn jsou už naimportované, takže rovnou do kódování!

Pokyny

100 XP
  • V metodě .__init__() definuj vrstvu LSTM a přiřaď ji do self.lstm.
  • V metodě forward() inicializuj první skrytý stav dlouhodobé paměti c0 nulami.
  • V metodě forward() předej vrstvě LSTM všechny tři vstupy: vstupní data aktuálního časového kroku a n-tici obsahující oba skryté stavy.