Проверка токсичности
Вы работаете в компании, занимающейся социальными сетями, и вам необходимо оценивать комментарии пользователей на платформе, чтобы убедиться в соблюдении правил поведения.
Ваша задача — тщательно оценить уровень токсичности комментариев user_1 и user_2.
Метрика токсичности уже загружена для вас под именем toxicity_metric.
Это упражнение является частью курса
Введение в LLM на Python
Инструкции к упражнению
- Вычислите индивидуальный уровень токсичности каждой последовательности.
- Вычислите максимальный уровень токсичности.
- Вычислите долю токсичных комментариев.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])