Uitvoer sturen met top_p en max_tokens
Het marketingteam wil nu twee versies van een verhaal over ChefBot, de toonaangevende kookrobot: een beknopte briefing voor investeerders en een creatievere “achter-de-schermen”-blogpost.
In deze oefening zijn de libraries boto3 en json, en de bedrock-client al vooraf geïmporteerd.
Deze oefening maakt deel uit van de cursus
Introductie tot Amazon Bedrock
Oefeninstructies
- Genereer een beknopt verhaal met een lage
top_pen lagemax_tokens, en een creatiever verhaal met een hogetop_pen hogemax_tokens, waarbij jemax_tokensbeperkt tot maximaal 200.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
def generate_story_with_params(bedrock, top_p, max_tokens):
messages = [{"role": "user",
"content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
"top_p": top_p, "messages": messages})
response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
response_body = json.loads(response.get('body').read().decode())
return response_body["content"][0]["text"]
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)
print("More focused: ", short_focused, "More creative: ", long_diverse)