Kom igångKom igång gratis

Moderering av produktrecensioner

Du är konsult för en hälsoplattform där användare kan dela med sig av välmåendeerfarenheter och recensioner. Ansvarig för användarsäkerhet förklarar:

"Säkerhet är vår högsta prioritet, men vi vill också bevara äkta röster. Vi behöver ett innehållsmodereringssystem som kan anpassa sin strikthetsgrad efter olika communityavsnitt – vissa kräver ett starkare skydd än andra."

Hjälp dem att bygga ett flexibelt och säkert modereringssystem. Biblioteken boto3 och json, bedrock-klienten och model_id har förinslästs.

Den här övningen är en del av kursen

Introduktion till Amazon Bedrock

Visa kurs

Övningsinstruktioner

  • Definiera en funktion moderate_content() som tar emot ett text-argument och en strikthetsgrad med "medium" som standardvärde.

  • Använd en ordlista (dictionary) för att ange instruktionen baserat på strikthetsgrad: "high", "medium" och "low".

  • Lägg till en temperatur på 0.2 för att hålla svaret konsekvent.

Interaktiv övning med praktiskt arbete

Testa den här övningen genom att slutföra den här exempelkoden.

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
Redigera och kör kod