使用 Accelerator 自動放置裝置
你的對話式 AI 模型需要在龐大的資料集上訓練，因此你決定把模型移到 GPU。你將利用 Accelerator 來進行自動裝置放置。請注意，此練習實際上在 CPU 上執行，但在 GPU 上執行時，程式碼相同。
一個以 BERT 為基礎的模型已預先載入為 model。
本練習屬於課程
使用 PyTorch 高效訓練 AI 模型
練習說明
- 透過實例化對應的類別來宣告一個
accelerator物件。 - 使用
accelerator物件，將模型準備好以在 GPU 上進行分散式訓練。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)