เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

Fine-tuning Llama สำหรับงาน QA บริการลูกค้า

คุณทำงานในบริษัทที่พัฒนาแชทบอตบริการลูกค้า ทีมของคุณใช้โมเดล Llama ในบอตบริการลูกค้า และต้องการปรับปรุงโมเดลด้วยการ fine-tuning บนชุดข้อมูลถาม-ตอบที่เกี่ยวข้องกับการบริการลูกค้า เพื่อให้ได้ประสิทธิภาพสูงสุดจากโมเดลเหล่านี้ ทีมจะ fine-tune โมเดล Llama สำหรับงานนี้โดยใช้ชุดข้อมูล bitext

สคริปต์การฝึกเกือบสมบูรณ์แล้ว สิ่งที่ขาดไปคือขั้นตอนสุดท้ายที่ต้องนำโมเดล, tokenizer, ชุดข้อมูลฝึก และอาร์กิวเมนต์การฝึกมารวมกัน แล้วเริ่มการฝึก

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

Fine-Tuning กับ Llama 3

ดูคอร์ส

คำแนะนำการฝึกหัด

  • Import คลาสที่ใช้สำหรับ supervised fine-tuning จากไลบรารีที่เกี่ยวข้อง
  • สร้าง instance ของคลาสสำหรับ supervised fine-tuning โดยส่ง model, tokenizer, dataset และ training_arguments
  • เรียกใช้ instance method เพื่อเริ่มต้น fine-tuning โมเดล

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

# Import the supervised fine-tuning class
from ____ import ____

# Instantiate fine-tuning class
trainer = ____(
  	# Pass necessary arguments
    ____=____,
    ____=____,
    ____=____,
    ____=____,

)

# Start training 
trainer.____()
แก้ไขและรันโค้ด