Modérer l'appel du client
Pour assurer la qualité et la sécurité, vous allez maintenant modérer le message du client traité. Cette étape aide à repérer et signaler les contenus potentiellement inappropriés, comme le harcèlement.
La transcription corrigée de l'exercice précédent est disponible sous le nom corrected_text.
Cette activité fait partie du cours
Systèmes multimodaux avec l'API d'OpenAI
Instructions de l’exercice
- Créez une requête de modération avec
corrected_textcomme entrée. - Extrayez les scores de catégories de la réponse et convertissez-les en dictionnaire à l'aide de
.model_dump(). - Extrayez le score de harcèlement du dictionnaire
scoreset vérifiez s'il est supérieur à0.8.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
# Extract harassment score
harassment_score = ____
if ____:
print("Content flagged for harassment!")
else:
print("Content is safe from harassment.")