1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Fine-Tuning s Llama 3
Connected

cvičení

Fine-tuning Llamy pomocí LoRA pro zákaznický servis

Tvým úkolem je fine-tuning jazykového modelu, který bude odpovídat na dotazy zákaznického servisu. Modely Llama jsou v odpovídání na otázky velmi dobré a pro tuto úlohu by měly fungovat skvěle. Bohužel nemáš dostatečný výpočetní výkon pro klasický fine-tuning, a proto musíš použít techniku LoRA fine-tuningu s datasetem bitext.

Chceš trénovat model Maykeye/TinyLLama-v0. Trénovací skript je téměř hotový – kód pro trénování už máš připravený, chybí jen nastavení konfiguračních parametrů LoRA.

Příslušný model, tokenizer, dataset a trénovací argumenty jsou pro tebe předem načteny v proměnných model, tokenizer, dataset a training_arguments.

Pokyny

100 XP
  • Přidej argument, který nastaví rank tvých LoRA adapterů na hodnotu 2.
  • Nastav škálovací faktor tak, aby byl dvojnásobkem tvého ranku.
  • V konfiguraci LoRA nastav typ úlohy používaný s modely ve stylu Llama.