Treinamento com precisão mista usando Trainer
Você quer simplificar sua interface de treinamento para usar precisão mista. Como alternativa aos loops de treinamento com Accelerator, você decidiu usar o Trainer, já que seu modelo não precisa de loops personalizados. Configure o Trainer para usar treinamento com precisão mista! O exercício levará algum tempo para rodar por causa da chamada a trainer.train().
Este exercicio faz parte do curso
Treinamento Eficiente de Modelos de IA com PyTorch
Instruções do exercicio
- Habilite o treinamento com precisão mista para o
Trainer.
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()