Träning med mixad precision via Trainer
Du vill förenkla ditt träningsgränssnitt för träning med mixad precision. Som ett alternativ till träningsloopar med Accelerator har du bestämt dig för att använda Trainer, eftersom din modell inte kräver anpassade träningsloopar. Konfigurera Trainer för träning med mixad precision! Övningen tar en stund att köra när trainer.train() anropas.
Den här övningen är en del av kursen
Effektiv AI-modellträning med PyTorch
Övningsinstruktioner
- Aktivera träning med mixad precision för
Trainer.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()