शुरू करेंमुफ़्त में शुरू करें

Llama 3 के साथ चैटिंग

एक डेटा एनालिटिक्स कंपनी एक इंटरनल AI असिस्टेंट बना रही है, ताकि कर्मचारी तकनीकी जानकारी तक जल्दी पहुँच सकें। इस प्रोजेक्ट के हिस्से के रूप में वे Llama 3 इंटीग्रेट करना चाहते हैं और आपसे इसका परीक्षण करने के लिए कहा है.

शुरू करने के लिए, आप लोकली Llama 3 मॉडल इनिशियलाइज़ करेंगे और एक सवाल का जवाब जेनरेट करेंगे.

मॉडल का पथ पहले से llama_path नाम के वैरिएबल में स्टोर है.

यह अभ्यास पाठ्यक्रम का हिस्सा है

Llama 3 के साथ काम करना

पाठ्यक्रम देखें

अभ्यास निर्देश

  • llama_cpp से Llama क्लास इम्पोर्ट करें.
  • मॉडल फ़ाइल के पथ के रूप में llama_path देते हुए Llama का एक इंस्टेंस इनिशियलाइज़ करें.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

# Import the Llama class
from llama_cpp import ____

# Initialize the Llama model
llm = ____(model_path=____)

question = "What is the most used database for data storage?"
response = llm(question)
print(response)
कोड संपादित करें और चलाएँ