Memeriksa toksisitas
Anda bekerja di sebuah perusahaan media sosial dan perlu mengevaluasi komentar yang ditinggalkan di platform untuk memastikan pengguna mematuhi kode etik.
Tugas Anda adalah menilai secara cermat tingkat toksisitas komentar dari user_1 dan user_2.
Metrik toksisitas telah dimuat untuk Anda sebagai toxicity_metric.
Latihan ini merupakan bagian dari kursus
Pengantar LLM di Python
Instruksi latihan
- Hitung toksisitas individual untuk setiap sekuens.
- Hitung toksisitas maksimum.
- Hitung rasio toksisitas per komentar.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])