Modérer la réponse du modèle
Même si le chatbot a généré une réponse personnalisée, il est important de vérifier que le contenu peut être envoyé au client en toute sécurité. Dans cette étape, vous allez modérer la réponse afin de vous assurer que tous les scores par catégorie sont inférieurs au seuil de sécurité client.
La réponse du modèle issue de l’exercice précédent est disponible sous chatbot_reply.
Cet exercice fait partie du cours
<cours>Systèmes multimodaux avec l’API OpenAI</cours>Instructions de l’exercice
- Envoyez une requête de modération avec
chatbot_replycomme entrée. - Extrayez les scores par catégorie de la réponse, convertissez-les en dictionnaire avec
.model_dump(), puis vérifiez si un score dépasse0.7.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")