Fine-tuning di Llama per il QA dell'assistenza clienti
Lavori in un'azienda che sviluppa chatbot per l'assistenza clienti. Il tuo team usa i modelli Llama nel bot di assistenza e vuoi migliorare il modello effettuando fine-tuning su un insieme di dati di domanda-risposta legato al customer service. Per ottenere le migliori prestazioni da questi modelli, il tuo team eseguirà il fine-tuning di un modello Llama per questo compito usando il dataset bitext.
Lo script di training è già quasi completo: manca solo il passaggio finale in cui metti insieme modello, tokenizer, insieme di dati di training e argomenti di training e avvii l'addestramento.
Questo esercizio fa parte del corso
Fine-tuning con Llama 3
Istruzioni dell'esercizio
- Importa dalla sua libreria la classe che ti permette di eseguire il supervised fine-tuning.
- Istanzia la classe usata per il supervised fine-tuning passando
model,tokenizer,datasetetraining_arguments. - Esegui il metodo di istanza per avviare il fine-tuning del modello.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()