Llama 3 ile sohbet
Bir veri analitiği şirketi, çalışanların teknik bilgilere hızlıca ulaşmasına yardımcı olacak dahili bir AI asistanı geliştiriyor. Bu projenin bir parçası olarak Llama 3'ü entegre etmek istiyorlar ve senden bunu test etmeni istediler.
Başlamak için, Llama 3 modelini yerelde başlatıyor ve bir soruya yanıt üretiyorsun.
Model yolu, llama_path adlı bir değişkende zaten saklı.
Bu egzersiz
Llama 3 ile Çalışmak
kursunun bir parçasıdırEgzersiz talimatları
llama_cppiçindenLlamasınıfını içe aktar.- Model dosyasının yolu olarak
llama_pathbelirterek birLlamaörneği başlat.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)