始める無料で始める

Reward Trainer を設定する

プロジェクトを続けます。報酬モデルの学習を開始できるように、modelconfig オブジェクトはすでに用意されています。

学習用および評価用データセットは、それぞれ train_dataeval_data として事前に読み込まれています。RewardTrainertrl からインポート済みです。

この演習はコースの一部です

人間のフィードバックによる強化学習(RLHF)

コースを見る

演習の手順

  • RewardTrainer() を初期化し、モデル、トークナイザー、学習用データセット、評価用データセット、報酬の構成を対応する属性に割り当ててください。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

tokenizer = AutoTokenizer.from_pretrained("openai-gpt")
model = AutoModelForSequenceClassification.from_pretrained('openai-gpt')
config = RewardConfig(output_dir='output_dir', max_length=60)

# Initialize the reward trainer
trainer = ____
コードを編集して実行