检查毒性
您在一家社交媒体公司工作，需要评估平台上的评论，以确保用户遵守行为准则。
您的任务是仔细评估 user_1 和 user_2 的评论毒性水平。
毒性度量已作为 toxicity_metric 为您加载。
本练习是课程的一部分
Python 中的 LLM 入门
练习说明
- 计算每个序列的单独毒性值。
- 计算最大毒性值。
- 计算每条评论的毒性占比。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])