开始使用免费开始使用

产品评价审核

您正在为一家允许用户分享健康体验与评价的医疗平台提供咨询。用户安全负责人解释道:

"安全是我们的首要任务,但我们也希望保留真实的用户声音。我们需要一个内容审核系统,能根据不同社区版块调整严苛程度——有些版块需要更高的保护。"

请帮助他们构建一个灵活且安全的审核系统。boto3json 库、bedrock 客户端以及 model_id 均已预加载。

本练习是课程的一部分

Amazon Bedrock 入门

查看课程

练习说明

  • 定义一个 moderate_content() 函数,接受 text 和严苛程度参数,默认值为 "medium"

  • 使用字典根据严苛程度设置指令:"high""medium""low"

  • 将 temperature 设为 0.2,以保持响应风格一致。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Define the function
def ____(____, strictness_level="____"):
    # Define the dictionary of moderation instructions
    instruction = {"____": "Strictly analyze for inappropriate content. ",
                   "____": "Check for obviously toxic language. ",
                   "____": "Check the tone. "}

    request_body = json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 50,
                               # Add a low temperature
                               "temperature": ____,
                               "messages": [{"role": "user", "content": f"{instruction[strictness_level]}\n{text}"}]})
    
    response = bedrock.invoke_model(body=request_body, modelId=model_id)
    response_body = json.loads(response.get('body').read().decode())
    return response_body
编辑并运行代码