Solicitar moderación
Además de los modelos de texto y de chat, OpenAI ofrece modelos con otras capacidades, incluida la moderación de texto. El modelo de moderación de texto de OpenAI está pensado para evaluar indicaciones y respuestas y determinar si incumplen las políticas de uso de OpenAI, como incitar al discurso de odio o promover la violencia.
En este ejercicio, vas a probar la función de moderación de OpenAI con una frase que podría haberse marcado como contenido violento usando algoritmos tradicionales de detección de palabras.
Este ejercicio forma parte del curso
Sistemas multimodales con la API de OpenAI
Instrucciones del ejercicio
- Comprueba si
"My favorite book is To Kill a Mockingbird."incumple las políticas de OpenAI usando el endpoint de Moderations. - Imprime las puntuaciones por categoría para ver los resultados.
ejercicio interactivo práctico
Prueba este ejercicio completando este código de ejemplo.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)