मॉडरेशन के लिए अनुरोध करना
टेक्स्ट और चैट कंप्लीशन मॉडल्स के अलावा, OpenAI ऐसे मॉडल भी देता है जिनमें दूसरी क्षमताएँ होती हैं, जैसे टेक्स्ट moderation. OpenAI का टेक्स्ट मॉडरेशन मॉडल इस बात का मूल्यांकन करने के लिए बनाया गया है कि दिए गए प्रॉम्प्ट और रिस्पॉन्स OpenAI की उपयोग नीतियों का उल्लंघन करते हैं या नहीं, जैसे घृणा फैलाने वाली भाषा को उकसाना या हिंसा को बढ़ावा देना.
इस अभ्यास में, आप OpenAI की मॉडरेशन फ़ंक्शनैलिटी को एक ऐसे वाक्य पर आज़माएँगे जिसे पारंपरिक शब्द-डिटेक्शन एल्गोरिदम के आधार पर हिंसक सामग्री वाला चिन्हित किया जा सकता था.
यह अभ्यास पाठ्यक्रम का हिस्सा है
OpenAI API के साथ मल्टी-मॉडल सिस्टम
अभ्यास निर्देश
- Moderations endpoint का उपयोग करके जाँचें कि
"My favorite book is To Kill a Mockingbird."OpenAI की नीतियों का उल्लंघन करता है या नहीं. - नतीजे देखने के लिए कैटेगरी स्कोर्स प्रिंट करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)