BaşlayınÜcretsiz Başlayın

Toksisiteyi kontrol etme

Bir sosyal medya şirketinde çalışıyorsun ve kullanıcıların davranış kurallarına uyduğundan emin olmak için platformda bırakılan yorumları değerlendirmen gerekiyor.

Görevin, user_1 ve user_2 kullanıcılarının yorumlarının toksisite düzeylerini dikkatlice değerlendirmek.

Toksisite metriği senin için toxicity_metric olarak yüklendi.

Bu egzersiz

Python ile LLM'lere Giriş

kursunun bir parçasıdır
Kursu Görüntüle

Egzersiz talimatları

  • Her bir dizinin bireysel toksisitesini hesapla.
  • Maksimum toksisiteyi hesapla.
  • Yorum başına toksisite oranını hesapla.

Uygulamalı interaktif egzersiz

Bu örnek kodu tamamlayarak bu egzersizi bitirin.

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
Kodu Düzenle ve Çalıştır