TorchTuneで、custom_recipe.yaml の設定ファイルを使ってファインチューニングジョブを正しく実行するコマンドはどれですか?
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
Llama 3 モデルをファインチューニングする選択肢を概観し、ファインチューニングを簡素化するために作られたライブラリ TorchTune を掘り下げます。本章では、データ準備、TorchTune のレシピベースの仕組み、効率的なタスク設定を案内し、最初のファインチューニングを開始するための主要なステップを提供します。
現在の演習
ファインチューニングが、小規模モデルでも特定タスクでの性能を大きく向上させられることを学びます。まずは小さな Llama モデルをファインチューニングして、タスク特化の能力を高めましょう。次に、LoRA などのパラメータ効率の高いファインチューニング手法を紹介し、さらに量子化を用いて、より大きなモデルを読み込み・活用する方法を探ります。