Запрос модерации
Помимо моделей для работы с текстом и чата, OpenAI предоставляет модели с другими возможностями, в том числе модерацию текста. Модель модерации OpenAI предназначена для анализа запросов и ответов с целью определить, нарушают ли они политику использования OpenAI: например, содержат ли призывы к ненависти или пропаганду насилия.
В этом упражнении вы протестируете функцию модерации OpenAI на предложении, которое традиционные алгоритмы обнаружения слов могли бы пометить как содержащее насилие.
Это упражнение является частью курса
Мультимодальные системы с OpenAI API
Инструкции к упражнению
- Проверьте, нарушает ли предложение
"My favorite book is To Kill a Mockingbird."политику OpenAI, используя эндпоинт модерации. - Выведите оценки категорий, чтобы увидеть результаты.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)