Mulai sekarangMulai gratis

Memeriksa toksisitas

Anda bekerja di sebuah perusahaan media sosial dan perlu mengevaluasi komentar yang ditinggalkan di platform untuk memastikan pengguna mematuhi kode etik.

Tugas Anda adalah menilai secara cermat tingkat toksisitas komentar dari user_1 dan user_2.

Metrik toksisitas telah dimuat untuk Anda sebagai toxicity_metric.

Latihan ini merupakan bagian dari kursus

Pengantar LLM di Python

Lihat Kursus

Instruksi latihan

  • Hitung toksisitas individual untuk setiap sekuens.
  • Hitung toksisitas maksimum.
  • Hitung rasio toksisitas per komentar.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Edit dan Jalankan Kode