1. เรียนรู้
    2. /
  2. Courses
    3. /
  3. Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras
Connected

Exercises

Transfer learning

Bạn đã thấy rằng khi huấn luyện một lớp embedding, bạn cần học rất nhiều tham số.

Trong bài này, bạn sẽ thấy rằng khi dùng transfer learning, bạn có thể sử dụng các trọng số đã được huấn luyện sẵn và không cập nhật chúng, nghĩa là tất cả tham số của lớp embedding sẽ được cố định, và mô hình chỉ cần học các tham số từ những lớp còn lại.

Hàm load_glove đã được nạp trong môi trường và trả về ma trận GloVe dưới dạng một vector numpy.ndarray. Hàm này sử dụng phương pháp đã trình bày trong các slide của bài học để lấy các vector GloVe với 200 chiều embedding cho bộ từ vựng dùng trong bài tập này.

คำแนะนำ

100 XP
  • Dùng hàm đã định nghĩa sẵn để tải các vector GloVe.
  • Dùng trình khởi tạo Constant với các vector đã huấn luyện sẵn.
  • Thêm tầng đầu ra là Dense với một unit.
  • In summary và kiểm tra các tham số có thể huấn luyện (trainable).