Begära moderering
Utöver text- och chattmodeller erbjuder OpenAI modeller med andra funktioner, däribland textmoderering. OpenAI:s modereringsmodell är utformad för att utvärdera prompter och svar och avgöra om de bryter mot OpenAI:s användningspolicyer – till exempel uppvigling till hatpropaganda eller hets till våld.
I den här övningen testar du OpenAI:s modereringsfunktion på en mening som traditionella ordigenkänningsalgoritmer kanske skulle ha flaggat som våldsamt innehåll.
Den här övningen är en del av kursen
Multimodala system med OpenAI API
Övningsinstruktioner
- Kontrollera om
"My favorite book is To Kill a Mockingbird."bryter mot OpenAI:s policyer med hjälp av Moderations-endpointen. - Skriv ut kategoripoängen för att se resultaten.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)