1. Učit se
    2. /
  2. Kurzy
    3. /
  3. Fine-Tuning s Llama 3
Connected

cvičení

Nastavení tréninkových argumentů pro Llamu

Tvým úkolem je vylepšit model Llama používaný v chatbotu zákaznické podpory – fine-tuningem na datech speciálně připravených pro otázky a odpovědi. Aby modely podávaly co nejlepší výkon, celý tým provede fine-tuning modelu Llama na datasetu bitext.

Nejprve chceš otestovat, jestli trénovací skript funguje správně. Proto začneš s malým learning rate a omezíš trénování na několik kroků v rámci tréninkových argumentů.

Pokyny

100 XP
  • Importuj a vytvoř instanci pomocné třídy pro uložení tréninkových argumentů.
  • Nastav tréninkový argument pro learning rate na hodnotu 2e-3.