产品评价审核
您正在为一家允许用户分享健康体验与评价的医疗平台提供咨询。用户安全负责人解释道:
"安全是我们的首要任务,但我们也希望保留真实的用户声音。我们需要一个内容审核系统,能根据不同社区版块调整严苛程度——有些版块需要更高的保护。"
请帮助他们构建一个灵活且安全的审核系统。boto3 和 json 库、bedrock 客户端以及 model_id 均已预加载。
本练习是课程的一部分
Amazon Bedrock 入门
练习说明
定义一个
moderate_content()函数,接受text和严苛程度参数,默认值为"medium"。使用字典根据严苛程度设置指令:
"high"、"medium"和"low"。将 temperature 设为
0.2,以保持响应风格一致。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Define the function
def ____(____, strictness_level="____"):
# Define the dictionary of moderation instructions
instruction = {"____": "Strictly analyze for inappropriate content. ",
"____": "Check for obviously toxic language. ",
"____": "Check the tone. "}
request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
# Add a low temperature
"temperature": ____,
"messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
response = bedrock.invoke_model(body=request_body, modelId=model_id)
response_body = json.loads(response.get('body').read().decode())
return response_body