Addestramento a precisione mista con Trainer
Vuoi semplificare l’interfaccia di addestramento per usare la precisione mista. In alternativa ai loop di training con Accelerator, hai deciso di usare Trainer perché il tuo modello non richiede loop personalizzati. Configura Trainer per utilizzare l’addestramento a precisione mista! L’esercizio impiegherà un po’ di tempo a eseguire la chiamata a trainer.train().
Questo esercizio fa parte del corso
Efficient AI Model Training with PyTorch
Istruzioni dell'esercizio
- Abilita l’addestramento a precisione mista per
Trainer.
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()