LoRA アダプターを使う

あなたは、顧客が抱える簡単な質問を自動で解決するカスタマーサービス向けチャットボットを提供するスタートアップで働いています。

あなたの担当は、bitext データセットを使って Maykeye/TinyLLama-v0 言語モデルをファインチューニングし、カスタマーサービスの質問に答えられるようにすることです。このモデルは、あなたのチームが提供するチャットボットで使用されます。学習スクリプトはほぼ完成していますが、より効率的で、デプロイ時にチームのトレーニングパイプラインをより速く完了できるよう、ファインチューニングに LoRA を統合したいと考えています。

関連するモデル、トークナイザー、データセット、トレーニング引数は、すでに model、tokenizer、dataset、training_arguments に読み込まれています。