Trainer ile 8-bit Adam
8-bit Adam optimizer'ını kurdun ve eğitim için hazırsın. Trainer'ı 8-bit Adam için hazırla!
Bazı veriler önceden yüklendi:
adam_bnb_optimoptimizer'ımodel,train_datasetvetraining_argsgibi eğitim nesneleri
Bu egzersiz, kursun bir parçasıdır
PyTorch ile Verimli AI Model Eğitimi
Egzersiz talimatları
- 8-bit Adam optimizer'ını
Trainer'a geçir.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model,
args=training_args,
train_dataset=train_dataset,
eval_dataset=validation_dataset,
compute_metrics=compute_metrics,
optimizers=(____, None))