Začněte nyníZačněte zdarma

Kontrola toxicity

Pracuješ ve společnosti provozující sociální síť a tvým úkolem je vyhodnocovat komentáře zveřejněné na platformě, aby uživatelé dodržovali pravidla chování.

Pečlivě posouď úroveň toxicity komentářů uživatelů user_1 a user_2.

Metrika toxicity je již načtena jako toxicity_metric.

Toto cvičení je součástí kurzu

Úvod do LLMs v Pythonu

Zobrazit kurz

Pokyny k cvičení

  • Vypočítej individuální toxicitu každé sekvence.
  • Vypočítej maximální toxicitu.
  • Vypočítej poměr toxicity na komentář.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Upravit a spustit kód