Kiểm duyệt phản hồi của model
Mặc dù chatbot đã tạo ra phản hồi phù hợp, bạn vẫn cần xác minh nội dung an toàn trước khi gửi cho khách hàng. Ở bước này, bạn sẽ kiểm duyệt phản hồi để đảm bảo mọi điểm số theo danh mục đều thấp hơn ngưỡng an toàn cho khách hàng.
Phản hồi của model từ bài tập trước có sẵn dưới tên chatbot_reply.
Bài tập này là một phần của khóa học
Hệ thống đa phương thức với OpenAI API
Hướng dẫn bài tập
- Gửi một yêu cầu kiểm duyệt với
chatbot_replylàm đầu vào. - Trích xuất điểm số theo danh mục trong phản hồi, chuyển chúng thành dictionary bằng
.model_dump(), và kiểm tra xem có điểm số nào vượt quá0.7hay không.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")