Richiedere una moderazione
Oltre ai modelli di completamento di testo e chat, OpenAI offre modelli con altre funzionalità, tra cui la moderazione del testo. Il modello di moderazione di OpenAI è pensato per valutare prompt e risposte e stabilire se violano le policy d’uso di OpenAI, ad esempio per incitamento all’odio o promozione della violenza.
In questo esercizio proverai la funzionalità di moderazione di OpenAI su una frase che potrebbe essere stata contrassegnata come contenente contenuti violenti dai tradizionali algoritmi di rilevamento basati sulle parole.
Questo esercizio fa parte del corso
Sistemi multimodali con l'API di OpenAI
Istruzioni dell'esercizio
- Verifica se
"My favorite book is To Kill a Mockingbird."viola le policy di OpenAI usando l’endpoint Moderations. - Stampa i punteggi per categoria per vedere i risultati.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)