НачатьНачать бесплатно

Модерация отзывов о продуктах

Вы консультируете медицинскую платформу, где пользователи делятся опытом в сфере здоровья и оставляют отзывы. Руководитель отдела безопасности пользователей объясняет:

«Безопасность — наш главный приоритет, но мы также хотим сохранить живые голоса пользователей. Нам нужна система модерации контента, которая умеет адаптировать степень строгости в зависимости от раздела сообщества: некоторые разделы требуют более высокого уровня защиты.»

Помогите им создать гибкую и безопасную систему модерации. Библиотеки boto3 и json, клиент bedrock и переменная model_id уже загружены.

Это упражнение является частью курса

Введение в Amazon Bedrock

Посмотреть курс

Инструкции к упражнению

  • Определите функцию moderate_content(), которая принимает текст text и уровень строгости со значением по умолчанию "medium".

  • Используйте словарь, чтобы задать инструкцию в зависимости от уровня строгости: "high", "medium" и "low".

  • Добавьте температуру 0.2, чтобы ответы оставались согласованными.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
Редактировать и запускать код