カスタマーサービス向けQAのためのLlamaのファインチューニング
あなたはカスタマーサービス用チャットボットを開発する企業で働いています。チームではカスタマーサービス用ボットに Llama モデルを使っており、カスタマーサービス関連の質問応答データセットでファインチューニングして精度を高めたいと考えています。これらのモデルの性能を最大限に引き出すため、チームはこのタスク向けに bitext データセットを用いて Llama モデルをファインチューニングします。
学習スクリプトはほぼ完成しています。残っているのは、model、tokenizer、学習データセット、学習用引数をまとめて、学習を開始する最終ステップだけです。
この演習はコースの一部です
Llama 3 のファインチューニング
演習の手順
- 監督ありファインチューニングを実行できるクラスを、対応するライブラリからインポートします。
model、tokenizer、dataset、training_argumentsを渡して、監督ありファインチューニング用のクラスをインスタンス化します。- インスタンスメソッドを実行して、モデルのファインチューニングを開始します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()