मॉडल के उत्तर का मॉडरेशन

भले ही चैटबॉट ने एक अनुकूलित उत्तर बना लिया है, ग्राहक को भेजने से पहले सामग्री का सुरक्षित होना जाँचना ज़रूरी है. इस चरण में, आप उत्तर का मॉडरेशन करेंगे ताकि सभी कैटेगरी स्कोर ग्राहक सुरक्षा थ्रेशोल्ड से नीचे रहें.

पिछले अभ्यास से मॉडल का उत्तर chatbot_reply के रूप में उपलब्ध है.

यह अभ्यास पाठ्यक्रम का हिस्सा है

OpenAI API के साथ मल्टी-मॉडल सिस्टम

पाठ्यक्रम देखें

अभ्यास निर्देश

chatbot_reply को इनपुट बनाकर एक मॉडरेशन रिक्वेस्ट भेजें.
रिस्पॉन्स के कैटेगरी स्कोर निकालें, उन्हें .model_dump() के ज़रिए डिक्शनरी में बदलें, और जाँचें कि कोई स्कोर 0.7 से ऊपर तो नहीं है.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

client = OpenAI(api_key="")

# Send the moderation request
response = ____

# Extract scores and convert to dictionary
scores = ____

if any(____ for score in scores.values()):
    print("AI Response flagged for moderation!")
    chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
    print("AI Response is safe.")

कोड संपादित करें और चलाएँ