Moderatie aanvragen
Naast tekst- en chatcompletion-modellen biedt OpenAI ook modellen met andere mogelijkheden, waaronder tekst-moderatie. Het tekstmoderatiemodel van OpenAI is ontworpen om prompts en antwoorden te beoordelen op mogelijke schendingen van OpenAI’s gebruiksbeleid, zoals het aanzetten tot haatzaaien en het promoten van geweld.
In deze oefening test je de moderatiefunctie van OpenAI op een zin die met traditionele woorddetectie-algoritmen mogelijk als gewelddadige inhoud zou zijn aangemerkt.
Deze oefening maakt deel uit van de cursus
Multimodale systemen met de OpenAI API
Oefeninstructies
- Controleer via het Moderations-endpoint of
"My favorite book is To Kill a Mockingbird."in strijd is met het beleid van OpenAI. - Print de categorie-scores om de resultaten te bekijken.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)