Навчання зі змішаною точністю з Trainer
Ви хочете спростити інтерфейс навчання для режиму зі змішаною точністю. Як альтернативу тренувальним циклам з Accelerator, ви вирішили використати Trainer, адже вашій моделі не потрібні кастомні цикли навчання. Налаштуйте Trainer на використання змішаної точності! Вправа займе певний час через виклик trainer.train().
Ця вправа є частиною курсу
Ефективне тренування моделей ШІ з PyTorch
Інструкції до вправи
- Увімкніть навчання зі змішаною точністю для
Trainer.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()