Kiểm soát đầu ra với top_p và max_tokens
Đội marketing hiện muốn hai phiên bản câu chuyện về ChefBot, robot nấu ăn chủ lực: một bản tóm lược ngắn gọn cho nhà đầu tư và một bài blog hậu trường sáng tạo hơn.
Trong bài tập này, các thư viện boto3 và json, cùng với client bedrock, đã được nhập sẵn.
Bài tập này là một phần của khóa học
Giới thiệu về Amazon Bedrock
Hướng dẫn bài tập
- Tạo một câu chuyện ngắn gọn bằng cách dùng
top_pthấp vàmax_tokensthấp, và một câu chuyện sáng tạo hơn bằng cách dùngtop_pcao vàmax_tokenscao, đồng thời giữmax_tokenstối đa là 200.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
def generate_story_with_params(bedrock, top_p, max_tokens):
messages = [{"role": "user",
"content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
"top_p": top_p, "messages": messages})
response = bedrock.invoke_model(body=request_body, modelId='us.anthropic.claude-sonnet-4-5-20250929-v1:0')
response_body = json.loads(response.get('body').read().decode())
return response_body["content"][0]["text"]
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)
print("More focused: ", short_focused, "More creative: ", long_diverse)