Model yanıtını moderasyonla denetleme
Sohbet botu özel bir yanıt üretmiş olsa da, müşteriye göndermeden önce içeriğin güvenli olduğundan emin olmak önemli. Bu adımda, tüm kategori puanlarının müşteri güvenlik eşiğinin altında kaldığını doğrulamak için yanıtı moderasyondan geçireceksin.
Önceki egzersizdeki model yanıtı chatbot_reply olarak hazır.
Bu egzersiz
OpenAI API ile Çok Modlu Sistemler
kursunun bir parçasıdırEgzersiz talimatları
- Girdi olarak
chatbot_replyile bir moderasyon isteği gönder. - Yanıtın kategori puanlarını çıkar,
.model_dump()kullanarak bunları bir sözlüğe dönüştür ve herhangi bir puanın0.7değerini aşıp aşmadığını kontrol et.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")