Huấn luyện độ chính xác hỗn hợp với Trainer
Bạn muốn đơn giản hóa giao diện huấn luyện cho chế độ độ chính xác hỗn hợp. Thay vì vòng lặp huấn luyện với Accelerator, bạn quyết định dùng Trainer vì mô hình của bạn không cần vòng lặp tùy chỉnh. Hãy thiết lập Trainer để sử dụng huấn luyện độ chính xác hỗn hợp! Bài tập sẽ mất một chút thời gian khi gọi trainer.train().
Bài tập này là một phần của khóa học
Huấn luyện Mô hình AI Hiệu quả với PyTorch
Hướng dẫn bài tập
- Bật huấn luyện độ chính xác hỗn hợp cho
Trainer.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()