Demander une modération
Au-delà des modèles de génération de texte et de complétion de chat, OpenAI propose des modèles dotés d’autres capacités, notamment la modération de texte. Le modèle de modération de texte d’OpenAI évalue les invites et les réponses pour déterminer si elles enfreignent les règles d’utilisation d’OpenAI, par exemple l’incitation à la haine ou la promotion de la violence.
Dans cet exercice, vous allez tester la fonctionnalité de modération d’OpenAI sur une phrase qui pourrait avoir été signalée comme contenant du contenu violent par des algorithmes traditionnels de détection de mots.
Cet exercice fait partie du cours
<cours>Systèmes multimodaux avec l’API OpenAI</cours>Instructions de l’exercice
- Vérifiez si
"My favorite book is To Kill a Mockingbird."enfreint les règles d’OpenAI en utilisant l’endpoint Moderations. - Affichez les scores par catégorie pour voir les résultats.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)