Llama fine-tunen voor klantenservice-QA
Je werkt bij een bedrijf dat chatbots voor klantenservice bouwt. Je team gebruikt de Llama-modellen in je klantenservicebot en je wilt het model verbeteren door het te fine-tunen op een vraag-en-antwoord-gegevensset over klantenservice. Om de beste prestaties uit deze modellen te halen, gaat je team een Llama-model voor deze taak fine-tunen met de bitext-gegevensset.
Het trainingsscript is al bijna klaar; het enige wat nog ontbreekt is de laatste stap waarin je het model, de tokenizer, de trainingsgegevensset en de trainingsargumenten samenbrengt en de training start.
Deze oefening maakt deel uit van de cursus
Fijn-afstemmen met Llama 3
Oefeninstructies
- Importeer de class waarmee je supervised fine-tuning kunt uitvoeren uit de bijbehorende bibliotheek.
- Maak een instantie van de class voor supervised fine-tuning door
model,tokenizer,datasetentraining_argumentsdoor te geven. - Voer de instantiemethode uit om het fine-tunen van je model te starten.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()