Bắt đầu ngayBắt đầu miễn phí

Tự động gán thiết bị với Accelerator

Mô hình AI hội thoại của bạn cần huấn luyện trên một tập dữ liệu khổng lồ, nên bạn quyết định chuyển mô hình sang GPU. Bạn đang tận dụng Accelerator để tự động gán thiết bị. Lưu ý: bài tập này thực tế chạy trên CPU, nhưng mã không đổi khi chạy trên GPU.

Một mô hình dựa trên BERT đã được nạp sẵn dưới tên model.

Bài tập này là một phần của khóa học

Huấn luyện Mô hình AI Hiệu quả với PyTorch

Xem khóa học

Hướng dẫn bài tập

  • Khai báo một đối tượng accelerator bằng cách khởi tạo lớp phù hợp.
  • Dùng đối tượng accelerator để chuẩn bị mô hình cho huấn luyện phân tán với GPU.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

from accelerate import Accelerator

# Declare an accelerator object
accelerator = ____()

# Prepare the model for distributed training
model = accelerator.____(model)

print(accelerator.device)
Chỉnh sửa và Chạy Mã