8-Bit Adam mit Trainer
Du hast einen 8-Bit-Adam-Optimizer eingerichtet und bist bereit fürs Training. Bereite den Trainer für 8-Bit Adam vor!
Einige Daten wurden vorab geladen:
- Der Optimizer
adam_bnb_optim - Trainingsobjekte wie
model,train_datasetundtraining_args
Diese Übung ist Teil des Kurses
Effizientes KI-Modelltraining mit PyTorch
Anleitung zur Übung
- Übergib den 8-Bit-Adam-Optimizer an den
Trainer.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model,
args=training_args,
train_dataset=train_dataset,
eval_dataset=validation_dataset,
compute_metrics=compute_metrics,
____=(____, None))