1. Học hỏi
  2. /
  3. Khoa Học
  4. /
  5. Huấn luyện Mô hình AI Hiệu quả với PyTorch

Connected

Bài tập

AdamW với Trainer

Bạn bắt đầu huấn luyện một mô hình Transformer để đơn giản hóa việc dịch ngôn ngữ. Bước đầu tiên, bạn chọn dùng optimizer AdamW làm mốc so sánh và giao diện Trainer để thiết lập nhanh. Hãy cấu hình Trainer để dùng optimizer AdamW.

AdamW đã được import sẵn từ torch.optim. Một số đối tượng phục vụ huấn luyện đã được nạp sẵn: model, training_args, train_dataset, validation_dataset, compute_metrics.

Hướng dẫn

100 XP
  • Truyền các tham số của model vào optimizer AdamW.
  • Truyền optimizer vào Trainer.