Demander une modération
En plus des modèles de génération de texte et de clavardage, OpenAI offre des modèles avec d'autres capacités, dont la modération de texte. Le modèle de modération de texte d'OpenAI sert à évaluer des amorces et des réponses pour déterminer si elles contreviennent aux politiques d'utilisation d'OpenAI, notamment en incitant à la haine ou en faisant la promotion de la violence.
Dans cet exercice, vous allez tester la fonctionnalité de modération d'OpenAI sur une phrase qui pourrait avoir été signalée comme contenant du contenu violent par des algorithmes traditionnels de détection de mots.
Cette activité fait partie du cours
Systèmes multimodaux avec l'API d'OpenAI
Instructions de l’exercice
- Vérifiez si
"My favorite book is To Kill a Mockingbird."contrevient aux politiques d'OpenAI à l'aide du point de terminaison Moderations. - Affichez les scores par catégorie pour voir les résultats.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)