เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

สนทนากับ Llama 3

บริษัทวิเคราะห์ข้อมูลแห่งหนึ่งกำลังพัฒนาผู้ช่วย AI ภายในองค์กร เพื่อให้พนักงานเข้าถึงข้อมูลทางเทคนิคได้อย่างรวดเร็ว โดยต้องการนำ Llama 3 มาใช้งาน และได้มอบหมายให้คุณทดสอบระบบนี้

ในขั้นแรก ให้เริ่มต้นโมเดล Llama 3 บนเครื่องและสร้างคำตอบสำหรับคำถามที่กำหนด

พาธของโมเดลถูกเก็บไว้ในตัวแปรชื่อ llama_path แล้ว

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

การทำงานกับ Llama 3

ดูคอร์ส

คำแนะนำการฝึกหัด

  • นำเข้าคลาส Llama จาก llama_cpp
  • สร้าง instance ของ Llama โดยระบุ llama_path เป็นพาธไปยังไฟล์โมเดล

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
แก้ไขและรันโค้ด