1. 学ぶ
    2. /
  2. コース
    3. /
  3. PyTorch による効率的な AI モデルトレーニング
Connected

演習

TrainingArguments の設定

言語モデルの学習プロセスを設定しましょう。TrainingArguments は Trainer に渡す入力パラメータを指定するためのクラスです。この演習ではパラメータの値があらかじめ与えられています。実際には、モデルに合わせてパラメータを調整する必要があります。Trainer で使用する引数を準備しましょう。

以下のデータは事前に読み込まれています。

  • output_dir は定義済みのディレクトリです。
  • TrainingArguments クラスはインポート済みです。

指示

100 XP
  • TrainingArguments クラスを使って training_args を定義します。
  • モデルの事前学習済みの重みをファインチューニングするため、learning_rate を 2e-5 に設定します。
  • 各デバイスの学習バッチサイズを 16 に設定します。
  • エポックごとに評価チェックポイントが作成されるよう、evaluation_strategy を設定します。