Moderarea răspunsului modelului
Chiar dacă chatbot-ul a generat un răspuns personalizat, este important să verifici că acel conținut este sigur de trimis clientului. În acest pas, vei modera răspunsul pentru a te asigura că toate scorurile de categorie se încadrează sub pragul de siguranță stabilit.
Răspunsul modelului din exercițiul anterior este disponibil ca chatbot_reply.
Acest exercițiu face parte din cursul
Sisteme multi-modale cu API-ul OpenAI
Instrucțiuni pentru exercițiu
- Trimite o cerere de moderare cu
chatbot_replyca intrare. - Extrage scorurile de categorie din răspuns, convertește-le într-un dicționar folosind
.model_dump()și verifică dacă vreun scor depășește0.7.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")