訓練引数の設定
顧客サポートのやり取りをトークン化した後、事前学習済みモデルをファインチューニングする前に、トレーニング引数を設定する必要があります。
TrainingArguments はあなたのために読み込まれています。
この演習はコースの一部です
Python で学ぶ LLM の入門
演習の手順
TrainingArguments()のインスタンスを設定してください。- 評価戦略を
"epoch"に設定してください。 - 学習エポック数を 3 に指定してください。
- 学習用と評価用のバッチサイズをそれぞれ 3 に設定してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Set up an instance of TrainingArguments
training_args = ____(
output_dir="./finetuned",
# Set the evaluation strategy
____,
# Specify the number of epochs
____=3,
learning_rate=2e-5,
# Set the batch sizes
____=3,
____=3,
weight_decay=0.01
)