Ausgabe mit top_p und max_tokens steuern
Das Marketingteam braucht jetzt zwei Versionen einer Story über ChefBot, den coolen Kochroboter: eine kurze Zusammenfassung für Investoren und einen kreativeren Blogbeitrag mit Einblicken hinter die Kulissen.
In dieser Übung wurden die Bibliotheken „ boto3
“ und „ json
“ sowie der Client „ bedrock
“ schon importiert.
Diese Übung ist Teil des Kurses
Einführung in Amazon Bedrock
Anleitung zur Übung
- Schreib eine kurze Geschichte mit einem niedrigen „Low-
top_p
” und einem niedrigen „Low-max_tokens
” und eine kreativere Geschichte mit einem hohen „High-top_p
” und einem hohen „High-max_tokens
”, wobei die „max_tokens
” maximal 200 Zeichen haben sollte.
Interaktive Übung
Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.
def generate_story_with_params(bedrock, top_p, max_tokens):
messages = [{"role": "user",
"content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
"top_p": top_p, "messages": messages})
response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
response_body = json.loads(response.get('body').read().decode())
return response_body["content"][0]["text"]
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)
print("More focused: ", short_focused, "More creative: ", long_diverse)