CommencerCommencer gratuitement

Contrôle de la sortie avec top_p et max_tokens

L'équipe marketing souhaite désormais deux versions d'un article sur ChefBot, le robot culinaire phare de l'entreprise : un briefing concis destiné aux investisseurs et un article de blog plus créatif présentant les coulisses du projet.

Dans cet exercice, les bibliothèques boto3 et json, ainsi que le client bedrock, ont été pré-importés.

Cet exercice fait partie du cours

Introduction à Amazon Bedrock

Afficher le cours

Instructions

  • max_tokens Rédigez un récit concis en utilisant un faible niveau d'top_p et un faible niveau d'max_tokens, ainsi qu'un récit plus créatif en utilisant un niveau élevé d'top_p et un niveau élevé d'max_tokens, en limitant le nombre de mots à 200.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

def generate_story_with_params(bedrock, top_p, max_tokens):
    messages = [{"role": "user",
             "content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
    request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
                 "top_p": top_p, "messages": messages})
    response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
    response_body = json.loads(response.get('body').read().decode())
    return response_body["content"][0]["text"]
    
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)

print("More focused: ", short_focused, "More creative: ", long_diverse)
Modifier et exécuter le code