कस्टमर कॉल का मॉडरेशन
क्वालिटी और सेफ्टी सुनिश्चित करने के लिए अब आप प्रोसेस किया हुआ कस्टमर मैसेज मॉडरेट करेंगे. यह स्टेप संभावित रूप से अनुचित सामग्री, जैसे कि harassment, की पहचान और फ़्लैग करने में मदद करता है.
पिछले अभ्यास से करेक्ट किया गया ट्रांसक्रिप्ट corrected_text के रूप में उपलब्ध है.
यह अभ्यास पाठ्यक्रम का हिस्सा है
OpenAI API के साथ मल्टी-मॉडल सिस्टम
अभ्यास निर्देश
corrected_textको इनपुट बनाकर एक moderation रिक्वेस्ट बनाएँ.- रिस्पॉन्स के कैटेगरी स्कोर निकालें और
.model_dump()से उन्हें डिक्शनरी में बदलें. scoresडिक्शनरी से harassment स्कोर निकालें और जाँचें कि वह0.8से अधिक है या नहीं.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
# Extract harassment score
harassment_score = ____
if ____:
print("Content flagged for harassment!")
else:
print("Content is safe from harassment.")