Llama 3 ile sohbet
Bir veri analitiği şirketi, çalışanların teknik bilgilere hızlıca ulaşmasına yardımcı olacak dahili bir AI asistanı geliştiriyor. Bu projenin bir parçası olarak Llama 3'ü entegre etmek istiyorlar ve senden bunu test etmeni istediler.
Başlamak için, Llama 3 modelini yerelde başlatıyor ve bir soruya yanıt üretiyorsun.
Model yolu, llama_path adlı bir değişkende zaten saklı.
Bu egzersiz, kursun bir parçasıdır
Llama 3 ile Çalışmak
Egzersiz talimatları
llama_cppiçindenLlamasınıfını içe aktar.- Model dosyasının yolu olarak
llama_pathbelirterek birLlamaörneği başlat.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)