Tự động gán thiết bị với Accelerator
Mô hình AI hội thoại của bạn cần huấn luyện trên một tập dữ liệu khổng lồ, nên bạn quyết định chuyển mô hình sang GPU. Bạn đang tận dụng Accelerator để tự động gán thiết bị. Lưu ý: bài tập này thực tế chạy trên CPU, nhưng mã không đổi khi chạy trên GPU.
Một mô hình dựa trên BERT đã được nạp sẵn dưới tên model.
Bài tập này là một phần của khóa học
Huấn luyện Mô hình AI Hiệu quả với PyTorch
Hướng dẫn bài tập
- Khai báo một đối tượng
acceleratorbằng cách khởi tạo lớp phù hợp. - Dùng đối tượng
acceleratorđể chuẩn bị mô hình cho huấn luyện phân tán với GPU.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)