Trening z mieszaną precyzją przy użyciu Trainer
Chcesz uprościć interfejs treningowy na potrzeby treningu z mieszaną precyzją. Zamiast korzystać z pętli treningowych z Accelerator, postanawiasz użyć Trainer – twój model nie wymaga niestandardowych pętli treningowych. Skonfiguruj Trainer tak, aby korzystał z treningu z mieszaną precyzją! Wykonanie ćwiczenia może chwilę potrwać ze względu na wywołanie trainer.train().
To ćwiczenie jest częścią kursu
Efektywne trenowanie modeli AI z PyTorch
Instrukcje do ćwiczenia
- Włącz trening z mieszaną precyzją dla
Trainer.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
training_args = TrainingArguments(
output_dir="./results",
evaluation_strategy="epoch",
# Enable mixed precision training
____=____
)
trainer = Trainer(model=model,
args=training_args,
train_dataset=dataset["train"],
eval_dataset=dataset["validation"],
compute_metrics=compute_metrics)
trainer.train()