ปรับแต่งการตอบคำถามของฝ่ายสนับสนุนลูกค้า
คุณทำงานให้กับบริษัทอีคอมเมิร์ซและกำลังนำ Llama มาใช้ในระบบผู้ช่วยตอบคำถามลูกค้า ผู้ช่วยนี้ตอบคำถามที่พบบ่อย แต่คุณสังเกตว่าคำตอบที่ได้มีความซ้ำซากมากเกินไป
ต้องปรับพารามิเตอร์การถอดรหัสเพื่อให้ คำตอบมีความหลากหลายมากขึ้น ในขณะที่ยังคงให้ข้อมูลที่เป็นประโยชน์
โมเดลถูกสร้างขึ้นแล้วโดยใช้ llama_cpp และเก็บไว้ในตัวแปร llm
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
การทำงานกับ Llama 3
คำแนะนำการฝึกหัด
- กำหนดค่าพารามิเตอร์
temperatureเพื่อให้คำตอบมีความหลากหลายและไม่ซ้ำซากมากขึ้น
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])