Llama für Kundenservice-Q&A fine-tunen
Du arbeitest in einem Unternehmen, das Chatbots für den Kundenservice entwickelt. Dein Team nutzt Llama-Modelle in eurem Service-Bot und möchte das Modell verbessern, indem ihr es auf einem Frage-Antwort-Datensatz zum Kundenservice fine-tunet. Um die bestmögliche Leistung aus diesen Modellen herauszuholen, wird dein Team ein Llama-Modell für diese Aufgabe mit dem Datensatz bitext fine-tunen.
Das Trainingsskript ist bereits fast fertig. Es fehlt nur noch der letzte Schritt, in dem du Modell, Tokenizer, Trainingsdatensatz und Trainingsargumente zusammenbringst und das Training startest.
Diese Übung ist Teil des Kurses
Feinabstimmung mit Llama 3
Anleitung zur Übung
- Importiere die Klasse aus ihrer Bibliothek, mit der du überwachtes Fine-Tuning durchführen kannst.
- Instanziiere die Klasse für überwachtes Fine-Tuning, indem du
model,tokenizer,datasetundtraining_argumentsübergibst. - Führe die Instanzmethode aus, um das Fine-Tuning deines Modells zu starten.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()