使用 Trainer 的 8-bit Adam

你已經設定好 8-bit Adam 最佳化器，接下來要用它來進行訓練。請為 8-bit Adam 準備 Trainer！

已預先載入以下資料：

adam_bnb_optim 最佳化器
訓練相關物件，例如 model、train_dataset 和 training_args

本練習屬於課程

使用 PyTorch 高效訓練 AI 模型

檢視課程

練習說明

將 8-bit Adam 最佳化器傳入 Trainer。

動手互動練習

試著完成這個範例程式碼，體驗一下這個練習。

# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model, 
                  args=training_args, 
                  train_dataset=train_dataset, 
                  eval_dataset=validation_dataset,
                  compute_metrics=compute_metrics,
                  optimizers=(____, None))

編輯並執行程式碼