Utiliser le bon modèle dans Bedrock

Vous travaillez pour BeanBliss, une entreprise de cafés de spécialité qui aide les cafés indépendants à garder une carte attractive avec des cafés torréfiés localement. Alors que l’équipe se prépare à lancer des outils de planification de la demande pilotés par l’IA, elle vous demande de montrer comment le modèle Claude dans Amazon Bedrock peut aider à prévoir la demande client plus efficacement.

Les bibliothèques boto3 et json ont déjà été importées.

Cet exercice fait partie du cours

Introduction à Amazon Bedrock

Afficher le cours

Instructions

Initialisez le client Bedrock pour l’inférence.
Appelez le modèle en utilisant le client bedrock.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

# Initialize the client for inference
bedrock = boto3.client('____', region_name='us-east-1')

messages = [{"role": "user", "content": "What are some ways to forecast customer demand?"}]

request_body=json.dumps({"anthropic_version": "bedrock-2023-05-31", "max_tokens": 20,
                 "messages": messages})  

# Invoke the model
response = bedrock.____(body=request_body, modelId='anthropic.claude-3-5-sonnet-20240620-v1:0')
response_body = json.loads(response.get('body').read())

print(response_body)

Modifier et exécuter le code

Cet exercice fait partie du cours

Introduction à Amazon Bedrock

IntermédiaireNiveau de compétence

4.8+

Commencer le cours gratuitement

Découvrez les fondamentaux d’Amazon Bedrock, le service entièrement géré de modèles de base d’AWS. Commencez par la configuration et l’authentification, explorez les modèles de base disponibles comme Claude et Titan, et maîtrisez les interactions essentielles avec l’API. Ce chapitre couvre la mise en place d’un environnement de développement, le choix de modèles adaptés à un cas d’usage, et la gestion correcte des requêtes API, y compris le streaming des réponses et la gestion des erreurs.

Exercise 1: Accéder à Amazon Bedrock Exercise 2: Initialiser le client Bedrock Exercise 3: Récupérer les détails d’un modèle Bedrock Exercise 4: Sélection d’un modèle de base Exercise 5: Utiliser le bon modèle dans Bedrock

Exercice en cours

Exercise 6: Générer du texte avec Bedrock

Dans ce chapitre, vous progresserez au travers de trois leçons clés. Après les bases de la génération de texte et de la gestion des réponses, vous passerez à des techniques avancées de conception d’invites, comme le few-shot learning et les sorties structurées. La dernière leçon traite de l’optimisation des paramètres de modèle, afin d’ajuster des réglages comme la température et les limites de jetons pour des résultats optimaux. Chaque leçon s’appuie sur la précédente, en passant d’interactions API fondamentales à un contrôle avancé des paramètres pour des cas d’usage précis.

Exercise 1: Générer du texte avec des modèles de langage Exercise 2: Améliorer les invites avec une attribution de rôle Exercise 3: Traiter les réponses du modèle et gérer les erreurs Exercise 4: Catégorisation d’un rapport par un foundation model Exercise 5: Appliquer des techniques de prompt engineering Exercise 6: Mettre en œuvre le few-shot learning pour la géométrie Exercise 7: Créer des prompts à sortie structurée Exercise 8: Travailler avec différents paramètres de modèle Exercise 9: Ajuster la créativité avec le paramètre de température Exercise 10: Contrôler la sortie avec top_p et max_tokens Exercise 11: Paramètres pour des descriptions de produits

Dans ce chapitre, vous allez créer des applications robustes et responsables avec Amazon Bedrock, au-delà des interactions API de base. En commençant par l’IA conversationnelle, vous maîtriserez la gestion d’état et le contexte pour des échanges cohérents. Vous explorerez ensuite des techniques avancées d’ingénierie d’invites, afin de générer des contenus variés tout en conservant un style et un ton constants. Le chapitre couvre des aspects essentiels de la production comme la gestion des erreurs, la limitation de débit et le traitement efficace des réponses. Enfin, vous mettrez en place des garde-fous et des mesures de sécurité éthiques, garantissant des applications d’IA à la fois puissantes et responsables.

Exercise 1: Considérations éthiques et garde-fous Exercise 2: Modération des avis produits Exercise 3: Créer des filtres de contenu adaptés à l’âge Exercise 4: Gérer les conversations avec l’IA Exercise 5: Créer une classe de gestion de conversation Exercise 6: Rendre une conversation sensible à la mémoire Exercise 7: Stratégies de prompting avancées Exercise 8: Mettre en œuvre un chain-of-thought prompting Exercise 9: Génération de contenu avec style avec Bedrock Exercise 10: Gérer les réponses et les erreurs d’API Exercise 11: Mettre en place la gestion de la limitation de débit Exercise 12: Mettre en place des solutions de secours entre modèles Exercise 13: Félicitations !