IniziaInizia gratis

Verifica della tossicità

Lavori per un'azienda di social media e devi valutare i commenti lasciati sulla piattaforma per assicurarti che gli utenti rispettino il codice di condotta.

Il tuo compito è valutare con attenzione il livello di tossicità dei commenti di user_1 e user_2.

La metrica di tossicità è stata caricata per te come toxicity_metric.

Questo esercizio fa parte del corso

Introduzione agli LLM in Python

Visualizza il corso

Istruzioni dell'esercizio

  • Calcola la tossicità individuale di ogni sequenza.
  • Calcola la tossicità massima.
  • Calcola il rapporto di tossicità per commento.

Esercizio pratico interattivo

Prova a risolvere questo esercizio completando il codice di esempio.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Modifica ed esegui il codice