CommencezCommencez gratuitement

Modération d'avis sur des produits

Vous agissez comme conseiller pour une plateforme de santé qui permet aux utilisateurs de partager leurs expériences de mieux-être et leurs avis. La responsable de la sécurité des utilisateurs explique :

"La sécurité est notre priorité, mais nous voulons aussi préserver des voix authentiques. Il nous faut un système de modération de contenu dont la rigueur peut s'adapter selon les sections de la communauté — certaines nécessitent une protection accrue."

Aidez-les à mettre en place un système de modération à la fois souple et sécuritaire. Les bibliothèques boto3 et json, le client bedrock et model_id ont été préchargés.

Cette activité fait partie du cours

Introduction à Amazon Bedrock

Voir le cours

Instructions de l’exercice

  • Définissez une fonction moderate_content() qui accepte un text et un niveau de rigueur, avec "medium" comme valeur par défaut.

  • Utilisez un dictionnaire pour définir l'instruction selon le niveau de rigueur : "high", "medium" et "low".

  • Ajoutez une température de 0.2 pour garder une réponse cohérente.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
Modifier et exécuter le code