유해성 점검
여러분은 소셜 미디어 회사에서 일하고 있으며, 플랫폼에 남겨지는 댓글이 이용 규범을 준수하는지 평가해야 합니다.
여러분의 과제는 user_1과 user_2의 댓글에 대해 유해성 수준을 면밀히 평가하는 것입니다.
유해성 지표는 toxicity_metric으로 미리 불러와 두었습니다.
이 연습은 강의의 일부입니다
Python으로 배우는 LLM 입문
연습 안내
- 각 시퀀스의 개별 유해성을 계산하세요.
- 최대 유해성을 계산하세요.
- 댓글별 유해성 비율을 계산하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])