Traiter les réponses du modèle et gérer les erreurs

SkyCast Assistant alimente aussi des alertes météo personnalisées. Dans ce cadre, on vous demande de générer une réponse pour un utilisateur qui souhaite modifier la fréquence de sa newsletter. Utilisez Claude pour produire la réponse, puis analysez-la afin que le message final tienne dans l’affichage compact des notifications de l’application.

La bibliothèque json, le client bedrock et le request_body ont été pré-importés.

Cet exercice fait partie du cours

Introduction à Amazon Bedrock

Afficher le cours

Instructions

Vérifiez si la clé 'output' existe dans le dictionnaire data.
Extrayez 'text' depuis le contenu de la sortie du message.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

response = bedrock.invoke_model(modelId='amazon.nova-lite-v1:0', body=request_body)
data = json.loads(response['body'].read().decode())

# Check for the output key
if '____' in ____:
    response = data['output']['message']['content'][0]['____'][:100]
    print(response)
else:
    print('Key not found')

Modifier et exécuter le code

Cet exercice fait partie du cours

Introduction à Amazon Bedrock

IntermédiaireNiveau de compétence

4.8+

Commencer le cours gratuitement

Découvrez les fondamentaux d’Amazon Bedrock, le service entièrement géré de modèles de base d’AWS. Commencez par la configuration et l’authentification, explorez les modèles de base disponibles comme Claude et Titan, et maîtrisez les interactions essentielles avec l’API. Ce chapitre couvre la mise en place d’un environnement de développement, le choix de modèles adaptés à un cas d’usage, et la gestion correcte des requêtes API, y compris le streaming des réponses et la gestion des erreurs.

Exercise 1: Accéder à Amazon Bedrock Exercise 2: Initialiser le client Bedrock Exercise 3: Récupérer les détails d’un modèle Bedrock Exercise 4: Sélection d’un modèle de base Exercise 5: Utiliser le bon modèle dans Bedrock Exercise 6: Générer du texte avec Bedrock

Dans ce chapitre, vous progresserez au travers de trois leçons clés. Après les bases de la génération de texte et de la gestion des réponses, vous passerez à des techniques avancées de conception d’invites, comme le few-shot learning et les sorties structurées. La dernière leçon traite de l’optimisation des paramètres de modèle, afin d’ajuster des réglages comme la température et les limites de jetons pour des résultats optimaux. Chaque leçon s’appuie sur la précédente, en passant d’interactions API fondamentales à un contrôle avancé des paramètres pour des cas d’usage précis.

Exercise 1: Générer du texte avec des modèles de langage Exercise 2: Améliorer les invites avec une attribution de rôle Exercise 3: Traiter les réponses du modèle et gérer les erreurs

Exercice en cours

Exercise 4: Catégorisation d’un rapport par un foundation model Exercise 5: Appliquer des techniques de prompt engineering Exercise 6: Mettre en œuvre le few-shot learning pour la géométrie Exercise 7: Créer des prompts à sortie structurée Exercise 8: Travailler avec différents paramètres de modèle Exercise 9: Ajuster la créativité avec le paramètre de température Exercise 10: Contrôler la sortie avec top_p et max_tokens Exercise 11: Paramètres pour des descriptions de produits

Dans ce chapitre, vous allez créer des applications robustes et responsables avec Amazon Bedrock, au-delà des interactions API de base. En commençant par l’IA conversationnelle, vous maîtriserez la gestion d’état et le contexte pour des échanges cohérents. Vous explorerez ensuite des techniques avancées d’ingénierie d’invites, afin de générer des contenus variés tout en conservant un style et un ton constants. Le chapitre couvre des aspects essentiels de la production comme la gestion des erreurs, la limitation de débit et le traitement efficace des réponses. Enfin, vous mettrez en place des garde-fous et des mesures de sécurité éthiques, garantissant des applications d’IA à la fois puissantes et responsables.

Exercise 1: Considérations éthiques et garde-fous Exercise 2: Modération des avis produits Exercise 3: Créer des filtres de contenu adaptés à l’âge Exercise 4: Gérer les conversations avec l’IA Exercise 5: Créer une classe de gestion de conversation Exercise 6: Rendre une conversation sensible à la mémoire Exercise 7: Stratégies de prompting avancées Exercise 8: Mettre en œuvre un chain-of-thought prompting Exercise 9: Génération de contenu avec style avec Bedrock Exercise 10: Gérer les réponses et les erreurs d’API Exercise 11: Mettre en place la gestion de la limitation de débit Exercise 12: Mettre en place des solutions de secours entre modèles Exercise 13: Félicitations !