शुरू करेंमुफ़्त में शुरू करें

Toxicity जाँच

आप एक सोशल मीडिया कंपनी में काम करते हैं और आपको प्लेटफ़ॉर्म पर छोड़े जा रहे कमेंट्स का मूल्यांकन करना है ताकि यह सुनिश्चित हो कि उपयोगकर्ता आचार संहिता का पालन कर रहे हैं.

आपका कार्य user_1 और user_2 के कमेंट्स के toxicity स्तर का ध्यान से आकलन करना है.

Toxicity मेट्रिक आपके लिए toxicity_metric के रूप में लोड कर दी गई है.

यह अभ्यास पाठ्यक्रम का हिस्सा है

Python में LLMs का परिचय

पाठ्यक्रम देखें

अभ्यास निर्देश

  • प्रत्येक sequence की व्यक्तिगत toxicity निकालें.
  • अधिकतम toxicity की गणना करें.
  • प्रति कमेंट toxicity ratio की गणना करें.

इंटरैक्टिव व्यावहारिक अभ्यास

इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।

# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])

# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])

# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])
कोड संपादित करें और चलाएँ