Vérifier la toxicité
Vous travaillez pour une entreprise de médias sociaux et vous devez évaluer les commentaires publiés sur la plateforme afin de vous assurer que les utilisateurs respectent le code de conduite.
Votre tâche consiste à évaluer attentivement le niveau de toxicité des commentaires de user_1 et user_2.
La mesure de toxicité a été chargée pour vous sous le nom toxicity_metric.
Cette activité fait partie du cours
Introduction aux LLM avec Python
Instructions de l’exercice
- Calculez la toxicité individuelle de chaque séquence.
- Calculez la toxicité maximale.
- Calculez le ratio de toxicité par commentaire.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])