शुरू करेंमुफ़्त में शुरू करें

सुरक्षित प्रतिक्रियाएँ सुनिश्चित करना

आप एक मेडिकल टीम के लिए इंटरनल चैटबॉट कॉन्फ़िगर कर रहे हैं. सुसंगत प्रतिक्रियाओं के लिए, आपको टोकन लिमिट सेट करके और टोकन चयन को सीमित करके वैरिएबिलिटी कम करनी है.

आपको llm वैरिएबल में Llama क्लास का इंस्टेंस दिया गया है और कम्प्लीशन कॉल करने का कोड भी दिया गया है. टेस्ट करने के लिए एक सैंपल प्रॉम्प्ट भी दिया गया है.

यह अभ्यास पाठ्यक्रम का हिस्सा है

Llama 3 के साथ काम करना

पाठ्यक्रम देखें

अभ्यास निर्देश

  • मॉडल पैरामीटर ऐसे सेट करें कि अधिकतम टोकन की संख्या दस टोकन तक सीमित हो, और मॉडल हर कम्प्लीशन स्टेप पर केवल सबसे संभावित दो शब्दों में से ही चुने.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

output = llm(
		"What are the symptoms of strep throat?", 
  		# Set the model parameters 
      	max_tokens=____, #Limit response length
		top_k=____ #Restrict word choices
) 

print(output['choices'][0]['text'])
कोड संपादित करें और चलाएँ