ПочатиПочніть безкоштовно

Модерація відгуків про продукт

Ви консультуєте платформу зі сфери охорони здоров'я, де користувачі діляться досвідом щодо добробуту та залишають відгуки. Керівник напряму безпеки користувачів пояснює:

"Безпека для нас — найвищий пріоритет, але ми також хочемо зберегти автентичні голоси. Нам потрібна система модерації контенту, яка може змінювати рівень суворості залежно від різних розділів спільноти — у деяких потрібен вищий захист, ніж в інших."

Допоможіть їм створити гнучку та безпечну систему модерації. Бібліотеки boto3 і json, клієнт bedrock та model_id уже завантажено.

Ця вправа є частиною курсу

Вступ до Amazon Bedrock

Переглянути курс

Інструкції до вправи

  • Створіть функцію moderate_content(), яка приймає text і рівень суворості, де значенням за замовчуванням є "medium".

  • Використайте словник, щоб задавати інструкцію залежно від суворості: "high", "medium" і "low".

  • Додайте температуру 0.2, щоб забезпечити узгодженість відповіді.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
Редагувати та запускати код