Model yanıtını moderasyonla denetleme
Sohbet botu özel bir yanıt üretmiş olsa da, müşteriye göndermeden önce içeriğin güvenli olduğundan emin olmak önemli. Bu adımda, tüm kategori puanlarının müşteri güvenlik eşiğinin altında kaldığını doğrulamak için yanıtı moderasyondan geçireceksin.
Önceki egzersizdeki model yanıtı chatbot_reply olarak hazır.
Bu egzersiz, kursun bir parçasıdır
OpenAI API ile Çok Modlu Sistemler
Egzersiz talimatları
- Girdi olarak
chatbot_replyile bir moderasyon isteği gönder. - Yanıtın kategori puanlarını çıkar,
.model_dump()kullanarak bunları bir sözlüğe dönüştür ve herhangi bir puanın0.7değerini aşıp aşmadığını kontrol et.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")