Модерация ответа модели
Даже если чат-бот сгенерировал подходящий ответ, важно убедиться, что его содержимое безопасно для отправки клиенту. На этом шаге вы проведёте модерацию ответа, чтобы проверить, что все оценки по категориям не превышают допустимый порог безопасности.
Ответ модели из предыдущего упражнения доступен как chatbot_reply.
Это упражнение является частью курса
Мультимодальные системы с OpenAI API
Инструкции к упражнению
- Отправьте запрос на модерацию, передав
chatbot_replyв качестве входных данных. - Извлеките оценки по категориям из ответа, преобразуйте их в словарь с помощью
.model_dump()и проверьте, превышает ли какая-либо оценка значение0.7.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")