Перевірка токсичності
Ви працюєте в компанії соціальних мереж і маєте оцінити коментарі, залишені на платформі, щоб користувачі дотримувалися правил поведінки.
Ваше завдання — уважно визначити рівень токсичності коментарів від user_1 та user_2.
Метрику токсичності вже завантажено для вас як toxicity_metric.
Ця вправа є частиною курсу
Вступ до LLM у Python
Інструкції до вправи
- Обчисліть індивідуальну токсичність для кожної послідовності.
- Обчисліть максимальну токсичність.
- Обчисліть частку токсичності на коментар.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])