在 Trainer 中使用 AdamW

您正开始训练一个 Transformer 模型，用于简化语言翻译。作为第一步，您决定使用 AdamW 优化器作为基线，并通过 Trainer 接口快速完成配置。请将 Trainer 设置为使用 AdamW optimizer。

AdamW 已从 torch.optim 预先导入。部分训练对象已预加载：model、training_args、train_dataset、validation_dataset、compute_metrics。

本练习是课程的一部分

使用 PyTorch 高效训练 AI 模型

查看课程

练习说明

将 model 的参数传给 AdamW optimizer。
将该 optimizer 传入 Trainer。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Pass the model parameters to the AdamW optimizer
optimizer = ____(params=____.____())

# Pass the optimizer to Trainer
trainer = Trainer(model=model,
                  args=training_args,
                  train_dataset=train_dataset,
                  eval_dataset=validation_dataset,
                  optimizers=(____, None),
                  compute_metrics=compute_metrics)

trainer.train()

编辑并运行代码