Moderation anfordern
Neben Text- und Chat-Completion-Modellen bietet OpenAI auch Modelle mit weiteren Fähigkeiten, darunter die Text-Moderation. Das Textmoderationsmodell von OpenAI ist dafür gedacht, Prompts und Antworten zu bewerten und festzustellen, ob sie gegen die Nutzungsrichtlinien von OpenAI verstoßen, zum Beispiel durch Aufruf zu Hassrede oder Gewaltförderung.
In dieser Übung probierst du die Moderationsfunktion von OpenAI an einem Satz aus, der von traditionellen Worterkennungsalgorithmen möglicherweise fälschlich als gewalttätiger Inhalt markiert wurde.
Diese Übung ist Teil des Kurses
<Kurs>Multimodale Systeme mit der OpenAI API</Kurs>Übungsanweisungen
- Prüfe mit dem Moderations-Endpunkt, ob
"My favorite book is To Kill a Mockingbird."gegen OpenAIs Richtlinien verstößt. - Gib die Kategoriewerte aus, um die Ergebnisse zu sehen.
Interaktive praktische Übung
Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)