Fine-tuning Llama pentru serviciul clienți – întrebări și răspunsuri
Lucrezi la o companie care dezvoltă chatboți pentru serviciul clienți. Echipa ta folosește modelele Llama în botul de asistență, iar tu vrei să îmbunătățești modelul prin fine-tuning pe un set de date de tipul întrebare-răspuns, specific domeniului serviciului clienți. Pentru a obține cele mai bune rezultate, echipa ta va aplica fine-tuning unui model Llama folosind setul de date bitext.
Scriptul de antrenament este aproape complet – singurul pas care lipsește este cel final, în care combini modelul, tokenizer-ul, setul de date de antrenament și argumentele de antrenament, apoi pornești antrenamentul.
Acest exercițiu face parte din cursul
Fine-Tuning cu Llama 3
Instrucțiuni pentru exercițiu
- Importă clasa care îți permite să efectuezi fine-tuning supervizat din biblioteca corespunzătoare.
- Instanțiază clasa folosită pentru fine-tuning supervizat, transmițând
model,tokenizer,datasetșitraining_arguments. - Apelează metoda de instanță pentru a porni fine-tuning-ul modelului.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()