Control de la salida con top_p y max_tokens
El equipo de marketing ahora quiere dos versiones de una historia sobre ChefBot, el robot de cocina insignia: un resumen conciso para los inversores y una entrada de blog más creativa sobre «el detrás de escena».
En este ejercicio, se han importado previamente las bibliotecas boto3 y json, así como el cliente bedrock.
Este ejercicio forma parte del curso
Introducción a Amazon Bedrock
Instrucciones del ejercicio
- Genera una historia concisa utilizando un nivel bajo de «
top_p» (palabras genéricas) y un nivel bajo de «max_tokens» (palabras genéricas de alto contenido), y una historia más creativa utilizando un nivel alto de «top_p» (palabras genéricas de alto contenido) y un nivel alto de «max_tokens» (palabras genéricas de alto contenido), manteniendo el número de «max_tokens
Ejercicio interactivo práctico
Prueba este ejercicio y completa el código de muestra.
def generate_story_with_params(bedrock, top_p, max_tokens):
messages = [{"role": "user",
"content": "Write a story about ChefBot writing a bestselling AI-powered cookbook memoir."}]
request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": max_tokens,
"top_p": top_p, "messages": messages})
response = bedrock.invoke_model(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
response_body = json.loads(response.get('body').read().decode())
return response_body["content"][0]["text"]
# Modify the parameters to create the two stories
short_focused = generate_story_with_params(bedrock, ____, ____)
long_diverse = generate_story_with_params(bedrock, ____, ____)
print("More focused: ", short_focused, "More creative: ", long_diverse)