Moderování odpovědi modelu
I když chatbot vygeneroval odpověď na míru, je důležité ověřit, že je obsah bezpečný k odeslání zákazníkovi. V tomto kroku odpověď zmoderuješ a zkontrololuješ, že všechna skóre kategorií jsou pod prahem bezpečnosti zákazníka.
Odpověď modelu z předchozího cvičení je dostupná jako chatbot_reply.
Toto cvičení je součástí kurzu
Multimodální systémy s OpenAI API
Pokyny k cvičení
- Pošli požadavek na moderování s
chatbot_replyjako vstupem. - Extrahuj skóre kategorií z odpovědi, převeď je na slovník pomocí
.model_dump()a zkontroluj, zda některé skóre překračuje0.7.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")