1. 학습
    2. /
  2. 강의
    3. /
  3. Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras
Connected

연습 문제

Điểm khởi đầu với transfer learning

Trong bài tập này, bạn sẽ thấy lợi ích của việc dùng các vector đã được huấn luyện trước làm điểm khởi đầu cho mô hình.

Bạn sẽ so sánh accuracy của hai mô hình được huấn luyện trong hai epoch. Kiến trúc hai mô hình là như nhau: một lớp embedding, một lớp LSTM với 128 unit và lớp đầu ra với 5 unit, tương ứng với số lớp (class) trong dữ liệu mẫu. Khác biệt là một mô hình dùng vector đã được huấn luyện trước ở lớp embedding (transfer learning), còn mô hình kia thì không.

Các vector tiền huấn luyện sử dụng là GloVE với 200 chiều. Lịch sử accuracy trên tập validation của cả hai mô hình có sẵn trong các biến history_no_emb và history_emb.

지침

100 XP
  • Import mô-đun matplotlib.pyplot với bí danh plt.
  • Thêm danh sách accuracy từ mô hình không dùng embedding vào biểu đồ.
  • Thêm danh sách accuracy từ mô hình có dùng embedding vào biểu đồ.
  • Hiển thị biểu đồ bằng phương thức .show().