ตรวจสอบความเหมาะสมของการตอบกลับจากโมเดล

แม้ว่าแชทบอทจะสร้างการตอบกลับที่ปรับแต่งมาเหมาะสมแล้ว แต่ยังต้องตรวจสอบให้แน่ใจว่าเนื้อหานั้นปลอดภัยพอที่จะส่งถึงลูกค้า ในขั้นตอนนี้ จะทำการตรวจสอบการตอบกลับเพื่อให้มั่นใจว่าคะแนนในทุกหมวดหมู่อยู่ต่ำกว่าเกณฑ์ความปลอดภัยที่กำหนด

ข้อความตอบกลับจากโมเดลในแบบฝึกหัดก่อนหน้าถูกเก็บไว้ในตัวแปร chatbot_reply

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

ระบบ Multi-Modal ด้วย OpenAI API

ดูคอร์ส

คำแนะนำการฝึกหัด

ส่งคำขอตรวจสอบความเหมาะสมโดยใช้ chatbot_reply เป็น input
ดึงคะแนนหมวดหมู่จากการตอบกลับ แปลงเป็น dictionary ด้วย .model_dump() จากนั้นตรวจสอบว่ามีคะแนนใดที่เกิน 0.7 หรือไม่

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

client = OpenAI(api_key="")

# Send the moderation request
response = ____

# Extract scores and convert to dictionary
scores = ____

if any(____ for score in scores.values()):
    print("AI Response flagged for moderation!")
    chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
    print("AI Response is safe.")

แก้ไขและรันโค้ด