Fine-tuning Llama untuk QA layanan pelanggan
Anda bekerja di sebuah perusahaan yang membangun chatbot layanan pelanggan. Tim Anda menggunakan model Llama di bot layanan pelanggan, dan Anda ingin meningkatkan model tersebut dengan melakukan fine-tuning pada himpunan data tanya jawab yang terkait dengan layanan pelanggan. Untuk memastikan kinerja terbaik dari model-model ini, tim Anda akan melakukan fine-tuning model Llama untuk tugas ini menggunakan himpunan data bitext.
Skrip pelatihan hampir selesai; satu-satunya langkah yang kurang adalah tahap akhir ketika Anda menggabungkan model, tokenizer, himpunan data pelatihan, dan argumen pelatihan, lalu memulai proses pelatihan.
Latihan ini adalah bagian dari kursus
Fine-Tuning dengan Llama 3
Petunjuk latihan
- Impor kelas dari pustakanya yang memungkinkan Anda melakukan supervised fine-tuning.
- Instansiasikan kelas yang digunakan untuk supervised fine-tuning dengan meneruskan
model,tokenizer,dataset, dantraining_arguments. - Jalankan metode instance untuk memulai fine-tuning model Anda.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()