1. 学ぶ
    2. /
  2. コース
    3. /
  3. PyTorch による効率的な AI モデルトレーニング
Connected

演習

Accelerator を使った混合精度訓練

Accelerator を使って、言語翻訳モデルの混合精度訓練における PyTorch ループをシンプルにしましょう。Accelerator を活用した新しい訓練ループを構築してください。

dataset、model、dataloader、optimizer はあらかじめ読み込まれています。

指示

100 XP
  • Accelerator で FP16 を使った混合精度訓練を有効にしてください。
  • ループの前に、混合精度訓練用の訓練オブジェクトを準備してください。
  • 混合精度訓練のために、損失の勾配を計算してください。