Modérer la réponse du modèle
Même si le chatbot a généré une réponse adaptée, il est important de vérifier que le contenu est sécuritaire avant de l'envoyer au client. Dans cette étape, vous allez modérer la réponse pour vous assurer que tous les scores par catégorie sont en dessous du seuil de sécurité pour la clientèle.
La réponse du modèle provenant de l'exercice précédent est disponible sous chatbot_reply.
Cette activité fait partie du cours
Systèmes multimodaux avec l'API d'OpenAI
Instructions de l’exercice
- Envoyez une demande de modération avec
chatbot_replycomme entrée. - Extrayez les scores par catégorie de la réponse, convertissez-les en dictionnaire avec
.model_dump(), puis vérifiez si un score dépasse0.7.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")