Moderowanie recenzji produktów
Pomagasz platformie zdrowotnej, która umożliwia użytkownikom dzielenie się doświadczeniami i recenzjami. Szefowa działu bezpieczeństwa użytkowników wyjaśnia:
„Bezpieczeństwo to nasz najwyższy priorytet, ale zależy nam też na zachowaniu autentycznych głosów. Potrzebujemy systemu moderacji treści, który można dostosować do różnych sekcji społeczności – niektóre wymagają wyższego poziomu ochrony niż inne."
Pomóż im zbudować elastyczny i bezpieczny system moderacji. Biblioteki boto3 i json, klient bedrock oraz model_id są już załadowane.
To ćwiczenie jest częścią kursu
Wprowadzenie do Amazon Bedrock
Instrukcje do ćwiczenia
Zdefiniuj funkcję
moderate_content(), która przyjmuje parametrtextoraz poziom restrykcyjności z domyślną wartością"medium".Użyj słownika, aby ustawić instrukcję na podstawie poziomu restrykcyjności:
"high","medium"i"low".Ustaw temperaturę na
0.2, aby zapewnić spójność odpowiedzi.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Define the function
def ____(____, strictness_level="____"):
# Define the dictionary of moderation instructions
instruction = {"____": "Strictly analyze for inappropriate content. ",
"____": "Check for obviously toxic language. ",
"____": "Check the tone. "}
request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
# Add a low temperature
"temperature": ____,
"messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
response = bedrock.invoke_model(body=request_body, modelId=model_id)
response_body = json.loads(response.get('body').read().decode())
return response_body