Moderera modellens svar
Även om chatboten har genererat ett anpassat svar är det viktigt att kontrollera att innehållet är säkert att skicka till kunden. I det här steget modererar du svaret för att säkerställa att alla kategoriscore ligger under kundens säkerhetströskel.
Modellens svar från föregående övning finns tillgängligt som chatbot_reply.
Den här övningen är en del av kursen
Multimodala system med OpenAI API
Övningsinstruktioner
- Skicka en modereringsbegäran med
chatbot_replysom indata. - Extrahera svarets kategoriscore, konvertera dem till en ordbok med
.model_dump(), och kontrollera om något score överstiger0.7.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")