Mengobrol dengan Llama 3
Sebuah perusahaan analitik data sedang mengembangkan asisten AI internal untuk membantu karyawan mengakses informasi teknis dengan cepat. Sebagai bagian dari proyek ini, mereka ingin mengintegrasikan Llama 3 dan meminta Anda untuk mengujinya.
Untuk memulai, Anda menginisialisasi model Llama 3 secara lokal dan menghasilkan respons untuk sebuah pertanyaan.
Jalur model sudah disimpan sebagai variabel bernama llama_path.
Latihan ini merupakan bagian dari kursus
Bekerja dengan Llama 3
Instruksi latihan
- Impor kelas
Llamadarillama_cpp. - Inisialisasi sebuah instance
Llama, dengan menetapkanllama_pathsebagai jalur ke berkas model.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)