De modelrespons modereren
Ook al heeft de chatbot een passend antwoord gegenereerd, het is belangrijk om te controleren of de inhoud veilig is om naar de klant te sturen. In deze stap modereer je het antwoord om te zorgen dat alle categorie-scores onder de veiligheidsdrempel voor klanten blijven.
Het modelantwoord uit de vorige oefening is beschikbaar als chatbot_reply.
Deze oefening maakt deel uit van de cursus
Multimodale systemen met de OpenAI API
Oefeninstructies
- Verstuur een moderatieverzoek met
chatbot_replyals invoer. - Haal de categorie-scores uit de response, zet ze om naar een dictionary met
.model_dump(), en controleer of een van de scores de waarde0.7overschrijdt.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")