8-bitars Adam med Trainer
Du har konfigurerat en 8-bitars Adam-optimerare och är redo att använda den för träning. Förbered Trainer för 8-bitars Adam!
En del data har förhandsladdats:
- Optimeraren
adam_bnb_optim - Träningsobjekt som
model,train_datasetochtraining_args
Den här övningen är en del av kursen
Effektiv AI-modellträning med PyTorch
Övningsinstruktioner
- Skicka in 8-bitars Adam-optimeraren till
Trainer.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model,
args=training_args,
train_dataset=train_dataset,
eval_dataset=validation_dataset,
compute_metrics=compute_metrics,
optimizers=(____, None))