8-Bit Adam mit Trainer

Du hast einen 8-Bit-Adam-Optimizer eingerichtet und bist bereit fürs Training. Bereite den Trainer für 8-Bit Adam vor!

Einige Daten wurden vorab geladen:

Der Optimizer adam_bnb_optim
Trainingsobjekte wie model, train_dataset und training_args

Diese Übung ist Teil des Kurses

<Kurs>Effizientes KI-Modelltraining mit PyTorch</Kurs>

Kurs ansehen

Übungsanweisungen

Übergib den 8-Bit-Adam-Optimizer an den Trainer.

Interaktive praktische Übung

Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.

# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model, 
                  args=training_args, 
                  train_dataset=train_dataset, 
                  eval_dataset=validation_dataset,
                  compute_metrics=compute_metrics,
                  optimizers=(____, None))

Code bearbeiten und ausführen