모더레이션 요청 보내기
텍스트 및 채팅 완성 모델 외에도 OpenAI는 텍스트 모더레이션과 같은 다양한 기능의 모델을 제공합니다. OpenAI의 텍스트 모더레이션 모델은 프롬프트와 응답이 혐오 발언 선동, 폭력 조장 등 OpenAI 사용 정책을 위반하는지 평가하도록 설계되었습니다.
이 연습 문제에서는 전통적인 단어 탐지 알고리즘에 의해 폭력적 콘텐츠로 표시되었을 수 있는 문장에 대해 OpenAI의 모더레이션 기능을 시험해 보겠습니다.
이 연습은 강의의 일부입니다
OpenAI API로 만드는 멀티모달 시스템
연습 안내
- Moderations 엔드포인트를 사용해
"My favorite book is To Kill a Mockingbird."가 OpenAI 정책을 위반하는지 확인하세요. - 결과를 확인할 수 있도록 카테고리 점수를 출력하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
client = OpenAI(api_key="")
# Create a request to the Moderation endpoint
response = client.____.____(
____="My favorite book is To Kill a Mockingbird."
)
# Print the category scores
print(response.results[0].____)