1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Huấn luyện Mô hình AI Hiệu quả với PyTorch
Connected

Bài tập

8-bit Adam với Trainer

Bạn đã thiết lập một optimizer Adam 8-bit và sẵn sàng dùng nó để huấn luyện. Hãy chuẩn bị Trainer cho Adam 8-bit!

Một số dữ liệu đã được nạp sẵn:

  • Optimizer adam_bnb_optim
  • Các đối tượng huấn luyện như model, train_dataset, và training_args

Hướng dẫn

100 XP
  • Truyền optimizer Adam 8-bit vào Trainer.