结合 Trainer 使用 8-bit Adam

您已经设置好了 8-bit Adam 优化器，现在可以用于训练了。请为 8-bit Adam 准备好 Trainer！

一些数据已预加载：

adam_bnb_optim 优化器
训练相关对象，如 model、train_dataset 和 training_args

本练习是课程的一部分

使用 PyTorch 高效训练 AI 模型

查看课程

练习说明

将 8-bit Adam 优化器传递给 Trainer。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Pass 8-bit Adam to the Trainer
trainer = Trainer(model=model, 
                  args=training_args, 
                  train_dataset=train_dataset, 
                  eval_dataset=validation_dataset,
                  compute_metrics=compute_metrics,
                  optimizers=(____, None))

编辑并运行代码