使用 Accelerator 自动放置设备
您的对话式 AI 模型需要在海量数据集上训练，因此您决定将模型迁移到 GPU。您将利用 Accelerator 实现自动设备放置。请注意：本练习实际在 CPU 上运行，但在 GPU 上运行时代码保持不变。
一个基于 BERT 的模型已作为 model 预加载。
本练习是课程的一部分
使用 PyTorch 高效训练 AI 模型
练习说明
- 通过实例化相应的类来声明一个
accelerator对象。 - 使用
accelerator对象，为使用 GPU 的分布式训练准备模型。
交互式实操练习
通过完成这段示例代码来试试这个练习。
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)