1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Huấn luyện Mô hình AI Hiệu quả với PyTorch
Connected

Bài tập

Xây dựng vòng lặp huấn luyện với Accelerator

Bạn đã sẵn sàng triển khai một vòng lặp huấn luyện cho dịch vụ dịch ngôn ngữ của mình. Sau khi thấy Accelerator điều chỉnh vòng lặp PyTorch cho huấn luyện phân tán như thế nào, bạn có thể tận dụng lớp Accelerator trong vòng lặp huấn luyện của mình!

Một số dữ liệu đã được nạp sẵn:

  • accelerator là một thể hiện của Accelerator
  • train_dataloader, optimizer, model, và lr_scheduler đã được định nghĩa và chuẩn bị với Accelerator

Hướng dẫn

100 XP
  • Gọi optimizer để đặt lại gradient về 0.
  • Cập nhật các tham số của mô hình.
  • Cập nhật learning rate của optimizer.