Moderare la risposta del modello
Anche se il chatbot ha generato una risposta su misura, è importante verificare che il contenuto sia sicuro da inviare al cliente. In questo passaggio, modererai la risposta per assicurarti che tutti i punteggi di categoria siano al di sotto della soglia di sicurezza per i clienti.
La risposta del modello dall'esercizio precedente è disponibile come chatbot_reply.
Questo esercizio fa parte del corso
Sistemi multimodali con l'API di OpenAI
Istruzioni dell'esercizio
- Invia una richiesta di moderazione usando
chatbot_replycome input. - Estrai i punteggi per categoria della risposta, convertiti in un dizionario usando
.model_dump(), e verifica se qualche punteggio supera0.7.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")