Wysyłanie zapytania moderacyjnego
Oprócz modeli do generowania tekstu i czatu, OpenAI udostępnia modele o innych możliwościach – w tym model moderacji treści. Model moderacji tekstu OpenAI służy do oceny promptów i odpowiedzi pod kątem naruszenia zasad użytkowania OpenAI, takich jak nawoływanie do nienawiści czy promowanie przemocy.
W tym ćwiczeniu przetestujesz działanie moderacji OpenAI na zdaniu, które tradycyjne algorytmy wykrywania słów kluczowych mogły oznaczyć jako zawierające treści przemocowe.
To ćwiczenie jest częścią kursu
Systemy multimodalne z OpenAI API
Instrukcje do ćwiczenia
- Sprawdź, czy zdanie
"My favorite book is To Kill a Mockingbird."narusza zasady OpenAI, korzystając z punktu końcowego Moderations. - Wyświetl wyniki kategorii, aby zobaczyć rezultaty.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)