Dostrajanie modelu Llama do obsługi klienta – pytania i odpowiedzi
Pracujesz w firmie tworzącej chatboty do obsługi klienta. Twój zespół wykorzystuje modele Llama w bocie obsługi klienta i chce ulepszyć model poprzez dostrajanie na zbiorze danych z pytaniami i odpowiedziami dotyczącymi obsługi klienta. Aby uzyskać jak najlepsze wyniki, zespół przeprowadzi dostrajanie modelu Llama do tego zadania, korzystając ze zbioru danych bitext.
Skrypt treningowy jest już prawie gotowy – brakuje jedynie ostatniego kroku, w którym łączysz model, tokenizer, zbiór treningowy oraz argumenty trenowania i uruchamiasz proces trenowania.
To ćwiczenie jest częścią kursu
Fine-Tuning z Llama 3
Instrukcje do ćwiczenia
- Zaimportuj klasę umożliwiającą przeprowadzenie nadzorowanego dostrajania (supervised fine-tuning) z odpowiedniej biblioteki.
- Utwórz instancję klasy służącej do nadzorowanego dostrajania, przekazując
model,tokenizer,datasetoraztraining_arguments. - Wywołaj metodę instancji, aby rozpocząć dostrajanie modelu.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()