Модерация звонка клиента

Чтобы обеспечить качество и безопасность, выполните модерацию обработанного сообщения клиента. Этот шаг позволяет выявлять и помечать потенциально недопустимый контент, например оскорбления.

Исправленная транскрипция из предыдущего упражнения доступна как corrected_text.

Это упражнение является частью курса

Мультимодальные системы с OpenAI API

Посмотреть курс

Инструкции к упражнению

Создайте запрос на модерацию, передав corrected_text в качестве входных данных.
Извлеките оценки категорий из ответа и преобразуйте их в словарь с помощью .model_dump().
Извлеките оценку оскорблений из словаря scores и проверьте, превышает ли она 0.8.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

client = OpenAI(api_key="")

# Send the moderation request
response = ____

# Extract scores and convert to dictionary
scores = ____

# Extract harassment score
harassment_score = ____

if ____:
    print("Content flagged for harassment!")
else:
    print("Content is safe from harassment.")

Редактировать и запускать код