Trénink se smíšenou přesností pomocí Trainer
Chceš zjednodušit rozhraní pro trénink se smíšenou přesností. Jako alternativu k tréninkovým smyčkám s Accelerator jsi se rozhodl/a použít Trainer, protože tvůj model vlastní tréninkové smyčky nepotřebuje. Nastav Trainer tak, aby používal trénink se smíšenou přesností! Volání trainer.train() může chvíli trvat.
Toto cvičení je součástí kurzu
Efficient AI Model Training with PyTorch
Pokyny k cvičení
- Povol trénink se smíšenou přesností pro
Trainer.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()