Vérification de la toxicité
Vous travaillez dans une entreprise spécialisée dans les réseaux sociaux et devez évaluer les commentaires publiés sur la plateforme afin de vous assurer que les utilisateurs respectent le code de conduite.
Votre tâche consiste à évaluer avec soin le niveau de toxicité des commentaires publiés par user_1 et user_2.
La mesure de toxicité a été chargée pour vous comme toxicity_metric.
Cet exercice fait partie du cours
<cours>Introduction aux LLM en Python</cours>Instructions de l’exercice
- Calculez la toxicité individuelle de chaque séquence.
- Calculez la toxicité maximale.
- Calculez le ratio de toxicité par commentaire.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])