Модерація відповіді моделі
Хоч чатбот і згенерував індивідуальну відповідь, важливо перевірити, що її безпечно надсилати клієнту. На цьому кроці ви змодеруєте відповідь, щоб упевнитися, що всі бали за категоріями нижчі за поріг безпеки для клієнтів.
Відповідь моделі з попередньої вправи доступна як chatbot_reply.
Ця вправа є частиною курсу
Мультимодальні системи з OpenAI API
Інструкції до вправи
- Надішліть запит на модерацію з
chatbot_replyяк вхідними даними. - Витягніть бали за категоріями з відповіді, перетворіть їх на словник за допомогою
.model_dump(), і перевірте, чи якийсь бал не перевищує0.7.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")