檢查有害度
你在一家社群媒體公司工作，需要評估平台上的留言，確保使用者遵守行為準則。
你的任務是仔細評估 user_1 與 user_2 的留言有害度等級。
有害度量度已替你載入為 toxicity_metric。
本練習屬於課程
Python 的 LLM 入門
練習說明
- 計算每個序列的個別有害度。
- 計算最大有害度。
- 計算每則留言的有害度比率。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])