모델 응답 검토(Moderation)
챗봇이 맞춤형 응답을 생성했더라도, 고객에게 보내기 전에 안전한지 확인하는 과정이 중요해요. 이 단계에서는 모든 카테고리 점수가 고객 안전 기준 이하인지 확인하도록 응답을 검토(Moderation)하겠습니다.
이전 연습 문제에서 생성된 모델의 응답은 chatbot_reply 변수로 제공돼요.
이 연습은 강의의 일부입니다
OpenAI API로 만드는 멀티모달 시스템
연습 안내
- 입력으로
chatbot_reply를 사용해 Moderation 요청을 보내세요. - 응답의 카테고리 점수를 추출하고,
.model_dump()로 딕셔너리로 변환한 다음, 어떤 점수라도0.7을 초과하는지 확인하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
if any(____ for score in scores.values()):
print("AI Response flagged for moderation!")
chatbot_reply = """I'm sorry, but I can't provide a response to that request. Please contact [email protected] for further assistance."""
else:
print("AI Response is safe.")