CommencerCommencez gratuitement

Modérer l’appel client

Pour garantir la qualité et la sécurité, vous allez maintenant modérer le message client traité. Cette étape aide à identifier et signaler les contenus potentiellement inappropriés, comme le harcèlement.

La transcription corrigée de l’exercice précédent est disponible sous corrected_text.

Cet exercice fait partie du cours

<cours>Systèmes multimodaux avec l’API OpenAI</cours>
Voir le cours

Instructions de l’exercice

  • Créez une requête de modération avec corrected_text comme entrée.
  • Extrayez les scores par catégorie de la réponse et convertissez-les en dictionnaire avec .model_dump().
  • Récupérez le score de harcèlement depuis le dictionnaire scores et vérifiez s’il est strictement supérieur à 0.8.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

client = OpenAI(api_key="")

# Send the moderation request
response = ____

# Extract scores and convert to dictionary
scores = ____

# Extract harassment score
harassment_score = ____

if ____:
    print("Content flagged for harassment!")
else:
    print("Content is safe from harassment.")
Modifier et exécuter le code