1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Fine-Tuning s Llama 3
Connected

Cvičení

Použití LoRA adapterů

Pracuješ ve startupustartupu, který vyvíjí chatboty pro zákaznickou podporu – automaticky řeší jednoduché dotazy, které zákazníci mohou mít.

Dostal/a jsi za úkol doladit jazykový model Maykeye/TinyLLama-v0 tak, aby odpovídal na dotazy zákaznické podpory, a to s využitím datasetu bitext. Model bude nasazen v chatbotu, který váš tým poskytuje. Tréninkový skript je už skoro hotový, ale chceš do fine-tuningu zapojit LoRA – je efektivnější a umožní vašemu týmu dokončit tréninkový pipeline rychleji při každém nasazení.

Příslušný model, tokenizér, dataset a tréninkové argumenty jsou pro tebe předem načteny v proměnných model, tokenizer, dataset a training_arguments.

Pokyny

100 XP
  • Importuj LoRA konfiguraci z příslušné knihovny.
  • Vytvoř instanci LoRA konfiguračních parametrů s výchozími hodnotami a ulož ji do lora_config.
  • Zapoj LoRA parametry do SFTTraineru.