การจัดรูปแบบ Prompt สำหรับ Llama
บางครั้งโมเดลอาจแยกแยะงาน ผลลัพธ์ที่คาดหวัง และบริบทเพิ่มเติมได้ยาก หากทุกอย่างอยู่ใน prompt ที่ยาวและไม่มีโครงสร้าง วิธีแก้คือการเพิ่ม label ที่ชัดเจนเพื่อแบ่งและจำแนกข้อมูลแต่ละส่วนให้โมเดลเข้าใจได้ง่ายขึ้น
โมเดล Llama พร้อมใช้งานในตัวแปร llm และจะใช้งานได้ตลอดช่วงที่เหลือของคอร์สนี้
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
การทำงานกับ Llama 3
คำแนะนำการฝึกหัด
- เพิ่ม label
Instruction,QuestionและAnswerลงใน prompt เพื่อจัดรูปแบบให้มีประสิทธิภาพมากขึ้น - ส่ง prompt ไปยังโมเดล
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])