ÎncepețiÎncepe gratuit

Verificarea toxicității

Lucrezi la o companie de social media și trebuie să evaluezi comentariile postate pe platformă, pentru a te asigura că utilizatorii respectă codul de conduită.

Sarcina ta este să analizezi cu atenție nivelul de toxicitate al comentariilor lui user_1 și user_2.

Metrica de toxicitate a fost încărcată deja pentru tine ca toxicity_metric.

Acest exercițiu face parte din cursul

Introducere în LLM-uri cu Python

Vezi cursul

Instrucțiuni pentru exercițiu

  • Calculează toxicitatea individuală a fiecărei secvențe.
  • Calculează toxicitatea maximă.
  • Calculează rata de toxicitate per comentariu.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Editează și rulează codul