1. Học hỏi
  2. /
  3. Khoa Học
  4. /
  5. Huấn luyện Mô hình AI Hiệu quả với PyTorch

Connected

Bài tập

Chuẩn bị mô hình cho huấn luyện phân tán

Bạn đã quyết định dùng thư viện Accelerator của Hugging Face để huấn luyện mô hình dịch ngôn ngữ. Giờ là lúc chuẩn bị mô hình cho huấn luyện phân tán!

Một số dữ liệu đã được nạp sẵn:

  • accelerator là một thực thể của Accelerator
  • model, optimizer, train_dataloader, và lr_scheduler đã được định nghĩa

Hướng dẫn

100 XP
  • Gọi một phương thức để chuẩn bị các đối tượng cho huấn luyện phân tán.
  • Truyền các đối tượng huấn luyện như đối số vị trí vào accelerator.prepare(), theo đúng thứ tự của đầu ra.