고객 통화 내용 검토하기
품질과 안전을 보장하기 위해, 이제 처리된 고객 메시지를 검토하겠습니다. 이 단계는 괴롭힘(harassment)과 같은 부적절할 수 있는 콘텐츠를 식별하고 표시하는 데 도움이 됩니다.
이전 연습 문제에서 정정된 전사는 corrected_text로 제공됩니다.
이 연습은 강의의 일부입니다
OpenAI API로 만드는 멀티모달 시스템
연습 안내
- 입력으로
corrected_text를 사용해 검토(moderation) 요청을 생성하세요. - 응답의 카테고리 점수를 추출하고
.model_dump()를 사용해 딕셔너리로 변환하세요. scores딕셔너리에서 괴롭힘 점수를 추출하고, 그 값이0.8보다 큰지 확인하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
client = OpenAI(api_key="")
# Send the moderation request
response = ____
# Extract scores and convert to dictionary
scores = ____
# Extract harassment score
harassment_score = ____
if ____:
print("Content flagged for harassment!")
else:
print("Content is safe from harassment.")