ComenzarEmpieza gratis

Controlar la salida con top_p y max_tokens

El equipo de marketing ahora quiere dos versiones de una historia sobre ChefBot, el robot de cocina insignia: un resumen conciso para inversores y una entrada de blog más creativa con “lo que ocurre entre bastidores”.

En este ejercicio, las librerías boto3 y json, y el cliente bedrock, ya están preimportados.

Este ejercicio forma parte del curso

Introducción a Amazon Bedrock

Ver curso

Instrucciones del ejercicio

  • Genera una historia concisa usando un top_p bajo y un max_tokens bajo, y otra más creativa usando un top_p alto y un max_tokens alto, manteniendo max_tokens con un máximo de 200.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

def generate_story_with_params(bedrock, top_p, max_tokens):
    messages = [{"role": "user",
             "content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
    request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
                 "top_p": top_p, "messages": messages})
    response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
    response_body = json.loads(response.get('body').read().decode())
    return response_body["content"][0]["text"]
    
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)

print("More focused: ", short_focused, "More creative: ", long_diverse)
Editar y ejecutar código