Reward Trainer を設定する
プロジェクトを続けます。報酬モデルの学習を開始できるように、model と config オブジェクトはすでに用意されています。
学習用および評価用データセットは、それぞれ train_data と eval_data として事前に読み込まれています。RewardTrainer は trl からインポート済みです。
この演習はコースの一部です
人間のフィードバックによる強化学習(RLHF)
演習の手順
RewardTrainer()を初期化し、モデル、トークナイザー、学習用データセット、評価用データセット、報酬の構成を対応する属性に割り当ててください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
tokenizer = AutoTokenizer.from_pretrained("openai-gpt")
model = AutoModelForSequenceClassification.from_pretrained('openai-gpt')
config = RewardConfig(output_dir='output_dir', max_length=60)
# Initialize the reward trainer
trainer = ____