MulaiMulai sekarang secara gratis

Memeriksa toksisitas

Anda bekerja di sebuah perusahaan media sosial dan perlu mengevaluasi komentar yang ditinggalkan di platform untuk memastikan pengguna mematuhi kode etik.

Tugas Anda adalah menilai secara cermat tingkat toksisitas komentar dari user_1 dan user_2.

Metrik toksisitas telah dimuat untuk Anda sebagai toxicity_metric.

Latihan ini adalah bagian dari kursus

Pengantar LLM di Python

Lihat Kursus

Petunjuk latihan

  • Hitung toksisitas individual untuk setiap sekuens.
  • Hitung toksisitas maksimum.
  • Hitung rasio toksisitas per komentar.

Latihan interaktif praktis

Cobalah latihan ini dengan menyelesaikan kode contoh berikut.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Edit dan Jalankan Kode