Các mô hình Sequence to Sequence

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

Bài tập này là một phần của khóa học

Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras

SkillTag.level.advancedSkillTag.label

4.8+

Bắt đầu khóa học miễn phí

Trong chương này, bạn sẽ học các nền tảng của Mạng nơ-ron hồi quy (RNN). Bắt đầu với các kiến thức tiền đề, tiếp tục với cách thông tin lan truyền qua mạng và cuối cùng là cách hiện thực hóa các mô hình này bằng Keras trong bài toán phân loại cảm xúc.

Exercise 1: Giới thiệu khóa học Exercise 2: So sánh số lượng tham số của RNN và ANN Exercise 3: Phân tích cảm xúc Exercise 4: Các mô hình sequence to sequence Exercise 5: Giới thiệu về mô hình ngôn ngữ Exercise 6: Làm quen với dữ liệu văn bản Exercise 7: Chuẩn bị dữ liệu văn bản cho đầu vào của mô hình Exercise 8: Biến đổi văn bản mới Exercise 9: Giới thiệu về RNN trong Keras Exercise 10: Các mô hình Keras Exercise 11: Tiền xử lý với Keras Exercise 12: Mô hình RNN đầu tiên của bạn

Bạn sẽ tìm hiểu về vấn đề tiêu biến và bùng nổ gradient, thường xảy ra trong RNN, và cách xử lý chúng bằng các cell GRU và LSTM. Ngoài ra, bạn sẽ tạo các lớp embedding cho mô hình ngôn ngữ và ôn lại bài toán phân loại cảm xúc.

Exercise 1: Độ dốc biến mất và bùng nổ Exercise 2: Vấn đề gradient bùng nổ Exercise 3: Vấn đề tiêu biến gradient Exercise 4: Các cell GRU và LSTM Exercise 5: Ô GRU tốt hơn simpleRNN Exercise 6: Xếp chồng các lớp RNN Exercise 7: Lớp Embedding Exercise 8: So sánh số lượng tham số Exercise 9: Transfer learning Exercise 10: Embeddings cải thiện hiệu năng Exercise 11: Xem lại phân loại cảm xúc Exercise 12: Phân loại cảm xúc tốt hơn Exercise 13: Sử dụng lớp CNN

Tiếp theo, trong chương này bạn sẽ học cách chuẩn bị dữ liệu cho bài toán phân loại đa lớp, cũng như sự khác nhau giữa phân loại đa lớp và phân loại nhị phân (phân tích cảm xúc). Cuối cùng, bạn sẽ học cách xây dựng mô hình và đo lường hiệu năng của chúng với Keras.

Exercise 1: Tiền xử lý dữ liệu Exercise 2: Chuẩn bị các vector nhãn Exercise 3: Tiền xử lý dữ liệu Exercise 4: Transfer learning cho mô hình ngôn ngữ Exercise 5: Điểm khởi đầu với transfer learning Exercise 6: Word2Vec Exercise 7: Mô hình phân loại đa lớp Exercise 8: Khám phá bộ dữ liệu 20 News Groups Exercise 9: Phân loại bài báo Exercise 10: Đánh giá hiệu suất của mô hình Exercise 11: Đánh đổi giữa Precision và Recall Exercise 12: Precision hay Recall, đó mới là vấn đề Exercise 13: Đánh giá hiệu năng trên phân loại đa lớp

Chương này giới thiệu hai ứng dụng của mô hình RNN: Tạo văn bản và Dịch máy bằng mạng nơ-ron. Bạn sẽ học cách chuẩn bị dữ liệu văn bản theo đúng định dạng mà mô hình cần. Mô hình Tạo văn bản dùng để tái hiện cách nói của một nhân vật và chúng ta sẽ vui vẻ bắt chước Sheldon từ The Big Bang Theory. Dịch máy bằng mạng nơ-ron được dùng, ví dụ, trong Google Dịch với một mô hình phức tạp hơn rất nhiều. Trong chương này, bạn sẽ tạo một mô hình dịch các cụm câu ngắn tiếng Bồ Đào Nha sang tiếng Anh.

Exercise 1: Các mô hình Sequence to Sequence

Bài tập hiện tại

Exercise 2: Ví dụ sinh văn bản Exercise 3: Ví dụ NMT Exercise 4: Hàm sinh văn bản Exercise 5: Dự đoán ký tự tiếp theo Exercise 6: Tạo câu với ngữ cảnh Exercise 7: Thay đổi thang xác suất Exercise 8: Mô hình Sinh văn bản Exercise 9: Tạo các vector của câu và ký tự kế tiếp Exercise 10: Chuẩn bị dữ liệu để huấn luyện Exercise 11: Tạo mô hình sinh văn bản Exercise 12: Dịch máy bằng mạng nơ-ron Exercise 13: Chuẩn bị văn bản đầu vào Exercise 14: Chuẩn bị văn bản đầu ra Exercise 15: Dịch từ tiếng Bồ Đào Nha sang tiếng Anh Exercise 16: Chúc mừng bạn!