1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Deep Learning nâng cao với PyTorch
Connected

Bài tập

Mạng LSTM

Như bạn đã biết, các cell RNN thuần không được dùng nhiều trong thực tế. Một lựa chọn phổ biến hơn, xử lý chuỗi dài tốt hơn nhiều là Long Short-Term Memory (LSTM). Trong bài này, bạn sẽ tự xây dựng một mạng LSTM!

Điểm khác biệt quan trọng nhất so với mạng RNN bạn đã xây trước đó là LSTM có hai trạng thái ẩn thay vì một. Nghĩa là bạn cần khởi tạo thêm trạng thái ẩn bổ sung này và truyền nó vào cell LSTM.

torch và torch.nn đã được nhập sẵn cho bạn, bắt đầu viết mã thôi!

Hướng dẫn

100 XP
  • Trong phương thức .__init__(), định nghĩa một tầng LSTM và gán cho self.lstm.
  • Trong phương thức forward(), khởi tạo trạng thái ẩn bộ nhớ dài hạn đầu tiên c0 bằng các số 0.
  • Trong phương thức forward(), truyền cả ba đầu vào cho tầng LSTM: đầu vào tại bước thời gian hiện tại và một tuple chứa hai trạng thái ẩn.