LoslegenKostenlos loslegen

Moderation anfordern

Neben Text- und Chat-Completion-Modellen bietet OpenAI auch Modelle mit weiteren Fähigkeiten, darunter die Text-Moderation. Das Textmoderationsmodell von OpenAI ist dafür gedacht, Prompts und Antworten zu bewerten und festzustellen, ob sie gegen die Nutzungsrichtlinien von OpenAI verstoßen, zum Beispiel durch Aufruf zu Hassrede oder Gewaltförderung.

In dieser Übung probierst du die Moderationsfunktion von OpenAI an einem Satz aus, der von traditionellen Worterkennungsalgorithmen möglicherweise fälschlich als gewalttätiger Inhalt markiert wurde.

Diese Übung ist Teil des Kurses

Multimodale Systeme mit der OpenAI API

Kurs anzeigen

Anleitung zur Übung

  • Prüfe mit dem Moderations-Endpunkt, ob "My favorite book is To Kill a Mockingbird." gegen OpenAIs Richtlinien verstößt.
  • Gib die Kategoriewerte aus, um die Ergebnisse zu sehen.

Interaktive Übung

Vervollständige den Beispielcode, um diese Übung erfolgreich abzuschließen.

client = OpenAI(api_key="")

# Create a request to the Moderation endpoint
response = client.____.____(
    ____="My favorite book is To Kill a Mockingbird."
)

# Print the category scores
print(response.results[0].____)
Code bearbeiten und ausführen