Zacznij terazZacznij za darmo

Sprawdzanie toksyczności

Pracujesz w firmie zajmującej się mediami społecznościowymi i musisz oceniać komentarze publikowane na platformie, aby upewnić się, że użytkownicy przestrzegają zasad społeczności.

Twoim zadaniem jest dokładna ocena poziomu toksyczności komentarzy user_1 i user_2.

Metryka toksyczności została wczytana dla ciebie jako toxicity_metric.

To ćwiczenie jest częścią kursu

Wprowadzenie do LLM w Pythonie

Zobacz kurs

Instrukcje do ćwiczenia

  • Oblicz indywidualną toksyczność każdej sekwencji.
  • Oblicz maksymalną toksyczność.
  • Oblicz współczynnik toksyczności dla każdego komentarza.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Edytuj i uruchom kod