Memeriksa toksisitas
Anda bekerja di sebuah perusahaan media sosial dan perlu mengevaluasi komentar yang ditinggalkan di platform untuk memastikan pengguna mematuhi kode etik.
Tugas Anda adalah menilai secara cermat tingkat toksisitas komentar dari user_1 dan user_2.
Metrik toksisitas telah dimuat untuk Anda sebagai toxicity_metric.
Latihan ini adalah bagian dari kursus
Pengantar LLM di Python
Petunjuk latihan
- Hitung toksisitas individual untuk setiap sekuens.
- Hitung toksisitas maksimum.
- Hitung rasio toksisitas per komentar.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])