Mixed precision-training met Trainer

Je wilt je trainingsinterface vereenvoudigen voor mixed precision-training. Als alternatief voor trainingslussen met Accelerator heb je besloten Trainer te gebruiken, omdat je model geen aangepaste trainingslussen nodig heeft. Stel Trainer zo in dat mixed precision-training wordt gebruikt! De oefening kost wat tijd om te draaien door de aanroep van trainer.train().

Deze oefening maakt deel uit van de cursus

Efficiënt AI-modellen trainen met PyTorch

Bekijk cursus

Oefeninstructies

Schakel mixed precision-training in voor Trainer.

Interactieve oefening met praktijkervaring

Probeer deze oefening door deze voorbeeldcode aan te vullen.

training_args = TrainingArguments(
    output_dir="./results",
    evaluation_strategy="epoch",
    # Enable mixed precision training
    ____=____
)
trainer = Trainer(model=model,
                  args=training_args,
                  train_dataset=dataset["train"],
                  eval_dataset=dataset["validation"],
                  compute_metrics=compute_metrics)
trainer.train()

Code bewerken en uitvoeren