Донавчання Llama для відповідей у службі підтримки
Ви працюєте в компанії, що розробляє чат-боти для служби підтримки. Ваша команда використовує моделі Llama у боті підтримки й хоче покращити модель, донавчивши її на наборі даних для запитань і відповідей, пов'язаних із підтримкою клієнтів. Щоб досягти найкращих результатів, ваша команда донавчить модель Llama для цього завдання, використовуючи набір даних bitext.
Скрипт навчання майже завершено. Лишився фінальний крок: об'єднати модель, токенізатор, тренувальний набір даних і параметри навчання та запустити тренування.
Ця вправа є частиною курсу
Тонке налаштування з Llama 3
Інструкції до вправи
- Імпортуйте клас для керованого донавчання зі відповідної бібліотеки.
- Створіть екземпляр класу для керованого донавчання, передавши
model,tokenizer,datasetіtraining_arguments. - Запустіть метод екземпляра, щоб розпочати донавчання вашої моделі.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()