Обучение со смешанной точностью с помощью Trainer
Вы хотите упростить интерфейс обучения для работы со смешанной точностью. В качестве альтернативы циклам обучения с Accelerator вы решили использовать Trainer, поскольку ваша модель не требует пользовательских циклов обучения. Настройте Trainer для обучения со смешанной точностью! Обратите внимание: вызов trainer.train() может занять некоторое время.
Это упражнение является частью курса
Эффективное обучение моделей ИИ с PyTorch
Инструкции к упражнению
- Включите обучение со смешанной точностью для
Trainer.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()