कस्टमर सपोर्ट के जवाब निर्देशित करना
आप एक ई-कॉमर्स कंपनी में काम करते हैं और कस्टमर सपोर्ट असिस्टेंट में Llama को इंटिग्रेट कर रहे हैं। असिस्टेंट अक्सर पूछे जाने वाले सवालों के जवाब देता है, लेकिन आपने देखा है कि जवाब बहुत दोहराव वाले हैं।
आपको डिकोडिंग पैरामीटर बदलने हैं ताकि शब्दों में अधिक विविधता आए, जबकि जवाब जानकारीपूर्ण बने रहें।
मॉडल पहले से llama_cpp का उपयोग करके इंस्टैंशिएट किया गया है और llm में स्टोर है.
यह अभ्यास पाठ्यक्रम का हिस्सा है
Llama 3 के साथ काम करना
अभ्यास निर्देश
temperatureपैरामीटर ऐसा सेट करें कि जवाब कम दोहराव वाले और ज्यादा डायनेमिक हों.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])