1. 学ぶ
  2. /
  3. コース
  4. /
  5. PyTorch による効率的な AI モデルトレーニング

Connected

演習

Accelerator 導入前後のトレーニングループ

MPRCの文言い換えデータセットを使って翻訳を簡略化する言語モデルに、Accelerator を使用するよう PyTorch のトレーニングループを修正しましょう。分散トレーニングに対応できるよう、トレーニングループを更新してください。

以下のデータはあらかじめ読み込まれています。

  • accelerator は Accelerator のインスタンスです
  • train_dataloader、optimizer、model、lr_scheduler はすでに定義され、Accelerator で準備済みです

指示

100 XP
  • Accelerator がデバイスへの配置を管理するように、.to(device) の行を更新してください。
  • Accelerator を使用するように、勾配の計算処理を修正してください。