使用 Trainer 的混合精度训练

您希望简化混合精度训练的接口。作为 Accelerator 训练循环的替代方案，鉴于您的模型不需要自定义训练循环，您决定使用 Trainer。请将 Trainer 配置为使用混合精度训练！由于会调用 trainer.train()，本练习运行需要一些时间。

本练习是课程的一部分

使用 PyTorch 高效训练 AI 模型

查看课程

练习说明

为 Trainer 启用混合精度训练。

交互式实操练习

通过完成这段示例代码来试试这个练习。

training_args = TrainingArguments(
    output_dir="./results",
    evaluation_strategy="epoch",
    # Enable mixed precision training
    ____=____
)
trainer = Trainer(model=model,
                  args=training_args,
                  train_dataset=dataset["train"],
                  eval_dataset=dataset["validation"],
                  compute_metrics=compute_metrics)
trainer.train()

编辑并运行代码