8-bit Adam s Trainerem

Nastavil/a sis optimizer 8-bit Adam a teď ho můžeš použít k trénování. Připrav Trainer pro 8-bit Adam!

Některá data jsou předem načtena:

Optimizer adam_bnb_optim
Tréninkové objekty jako model, train_dataset a training_args

Toto cvičení je součástí kurzu

Efficient AI Model Training with PyTorch

Zobrazit kurz

Pokyny k cvičení

Předej optimizer 8-bit Adam do Trainer.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model, 
                  args=training_args, 
                  train_dataset=train_dataset, 
                  eval_dataset=validation_dataset,
                  compute_metrics=compute_metrics,
                  optimizers=(____, None))

Upravit a spustit kód