1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Deep Learning cho Văn bản với PyTorch
Connected

Bài tập

Huấn luyện mô hình GAN

Đội của bạn tại PyBooks đã đạt tiến bộ tốt trong việc xây dựng bộ sinh văn bản bằng Generative Adversarial Network (GAN). Bạn đã định nghĩa thành công mạng generator và discriminator. Giờ là lúc huấn luyện chúng. Bước cuối là tạo một số dữ liệu giả và so sánh với dữ liệu thật để xem GAN của bạn học tốt đến đâu. Chúng ta đã dùng các tensor làm đầu vào và đầu ra sẽ cố gắng giống với các tensor đầu vào. Nhóm tại PyBooks sau đó có thể dùng dữ liệu tổng hợp này cho phân tích văn bản vì các đặc trưng sẽ có mối quan hệ giống như dữ liệu văn bản.

Generator và discriminator đã được khởi tạo và lưu lần lượt vào generator và discriminator.

Các biến sau đã được khởi tạo trong bài tập:

  • seq_length = 5: Độ dài của mỗi chuỗi dữ liệu tổng hợp
  • num_sequences = 100: Tổng số chuỗi được tạo ra
  • num_epochs = 50: Số vòng lặp qua toàn bộ tập dữ liệu
  • print_every = 10: Tần suất hiển thị kết quả, in sau mỗi 10 epoch

Hướng dẫn 1/3

undefined XP
    1
    2
    3
  • Định nghĩa hàm loss cho phân loại nhị phân và bộ tối ưu Adam.
  • Huấn luyện discriminator bằng cách unsqueeze real_data và ngăn việc tính lại gradient.