Usar el modelo correcto en Bedrock

Trabajas en BeanBliss, una empresa de café de especialidad que ayuda a cafeterías independientes a mantener sus menús actualizados con cafés de tostadores locales. A medida que el equipo se prepara para introducir herramientas de planificación de la demanda con IA, te han pedido que muestres cómo el modelo Claude en Amazon Bedrock podría ayudar a pronosticar la demanda de clientes de forma más efectiva.

Las bibliotecas boto3 y json ya se han importado.

Este ejercicio forma parte del curso

Introducción a Amazon Bedrock

Instrucciones del ejercicio

Inicializa el cliente de Bedrock para inferencia.
Invoca el modelo usando el cliente bedrock.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

# Initialize the client for inference
bedrock = boto3.client('____', region_name='us-east-1')

messages = [{"role": "user", "content": "What are some ways to forecast customer demand?"}]

request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 20,
                 "messages": messages})  

# Invoke the model
response = bedrock.____(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
response_body = json.loads(response.get('body').read())

print(response_body)

Editar y ejecutar código

Este ejercicio forma parte del curso

Introducción a Amazon Bedrock

IntermedioNivel de habilidad

4.8+

Comienza el curso gratis

Aprende los fundamentos de Amazon Bedrock, el servicio totalmente gestionado de modelos base de AWS. Empieza con la configuración y autenticación básicas, explora los modelos base disponibles como Claude y Titan y domina las interacciones esenciales con la API. Este capítulo cubre la configuración de un entorno de desarrollo, la elección de modelos adecuados para cada caso de uso y la implementación del manejo correcto de solicitudes a la API, incluyendo respuestas en streaming y gestión de errores.

Exercise 1: Acceder a Amazon Bedrock Exercise 2: Inicializar el cliente de Bedrock Exercise 3: Obtener detalles de un modelo de Bedrock Exercise 4: Seleccionar un modelo base Exercise 5: Usar el modelo correcto en Bedrock

Ejercicio actual

Exercise 6: Generar texto en Bedrock

En este capítulo avanzarás a través de tres lecciones clave. Empezarás con los conceptos básicos de generación de texto y manejo de respuestas, para después pasar a técnicas sofisticadas de prompt engineering como few-shot learning y resultados estructurados. La lección final trata la optimización de parámetros del modelo, enseñándote a ajustar configuraciones como la temperatura y los límites de tokens para obtener resultados óptimos. Cada lección se apoya en la anterior, pasando de interacciones fundamentales con la API al control avanzado de parámetros para casos de uso específicos.

Exercise 1: Generar texto con modelos de lenguaje Exercise 2: Mejorar prompts con asignación de roles Exercise 3: Procesar respuestas del modelo y gestión de errores Exercise 4: Categorización de informes con un foundation model Exercise 5: Aplicar técnicas de prompt engineering Exercise 6: Implementa few-shot learning para geometría Exercise 7: Crear prompts con salida estructurada Exercise 8: Trabajar con distintos parámetros del modelo Exercise 9: Ajustar la creatividad con el control de temperatura Exercise 10: Controlar la salida con top_p y max_tokens Exercise 11: Parámetros para descripciones de producto

En este capítulo crearás aplicaciones robustas y responsables con Amazon Bedrock, yendo más allá de las interacciones básicas con la API. Empezando por la IA conversacional, dominarás la gestión de estado y el manejo de contexto para crear experiencias de chat coherentes. Luego explorarás técnicas avanzadas de prompts, aprendiendo a generar tipos de contenido diversos manteniendo un estilo y tono consistentes. El capítulo cubre aspectos críticos de producción como el manejo de errores, la limitación de tasa y el procesamiento eficiente de respuestas. Por último, implementarás barreras éticas y medidas de seguridad para que tus aplicaciones de IA sean potentes y responsables.

Exercise 1: Consideraciones éticas y medidas de protección Exercise 2: Moderación de reseñas de productos Exercise 3: Crear filtros de contenido adecuados para la edad Exercise 4: Gestión de conversaciones con IA Exercise 5: Crear una clase gestora de conversaciones Exercise 6: Hacer que la conversación sea consciente de la memoria Exercise 7: Estrategias avanzadas de prompting Exercise 8: Implementar prompting con cadena de pensamiento Exercise 9: Generación de contenido con estilo en Bedrock Exercise 10: Gestión de respuestas y errores de la API Exercise 11: Implementar la gestión de límites de tasa Exercise 12: Implementar alternativas de modelo Exercise 13: ¡Enhorabuena!