Moderar la respuesta del modelo
Aunque el chatbot ha generado una respuesta personalizada, es importante verificar que el contenido sea seguro para enviarlo al cliente. En este paso, vas a moderar la respuesta para asegurarte de que todas las puntuaciones de las categorías estén por debajo del umbral de seguridad para el cliente.
La respuesta del modelo del ejercicio anterior está disponible como chatbot_reply.
Este ejercicio forma parte del curso
Sistemas multimodales con la API de OpenAI
Instrucciones del ejercicio
- Envía una solicitud de moderación con
chatbot_replycomo entrada. - Extrae las puntuaciones de categorías de la respuesta, conviértelas en un diccionario con
.model_dump()y comprueba si alguna puntuación supera0.7.
ejercicio interactivo práctico
Prueba este ejercicio completando este código de ejemplo.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")