Fine-tuning Llamy pro zákaznickou podporu
Pracuješ ve firmě, která vyvíjí chatboty pro zákaznickou podporu. Váš tým používá modely Llama ve svém chatbotu a chcete model vylepšit pomocí fine-tuningu na datasetu otázek a odpovědí z oblasti zákaznické podpory. Aby modely podávaly co nejlepší výkon, bude váš tým provádět fine-tuning modelu Llama pro tento úkol s využitím datasetu bitext.
Trénovací skript je již téměř hotový — chybí jen poslední krok, ve kterém propojíš model, tokenizer, trénovací dataset a tréninkové argumenty a spustíš samotný trénink.
Toto cvičení je součástí kurzu
Fine-Tuning s Llama 3
Pokyny k cvičení
- Importuj třídu pro supervised fine-tuning z příslušné knihovny.
- Vytvoř instanci třídy pro supervised fine-tuning a předej jí
model,tokenizer,datasetatraining_arguments. - Zavolej příslušnou metodu instance, která spustí fine-tuning tvého modelu.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()