Kiểm tra mức độ độc hại
Bạn đang làm việc tại một công ty mạng xã hội và cần đánh giá các bình luận trên nền tảng để đảm bảo người dùng tuân thủ quy tắc ứng xử.
Nhiệm vụ của bạn là đánh giá cẩn thận mức độ độc hại của các bình luận của user_1 và user_2.
Thước đo toxicity đã được nạp sẵn cho bạn dưới tên toxicity_metric.
Bài tập này là một phần của khóa học
Nhập môn LLMs trong Python
Hướng dẫn bài tập
- Tính mức độ độc hại riêng lẻ của từng chuỗi.
- Tính mức độ độc hại tối đa.
- Tính tỷ lệ độc hại theo bình luận.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Calculate the individual toxicities
toxicity_1 = toxicity_metric.compute(predictions=____)
toxicity_2 = toxicity_metric.compute(predictions=____)
print("Toxicities (user_1):", toxicity_1['toxicity'])
print("Toxicities (user_2): ", toxicity_2['toxicity'])
# Calculate the maximum toxicities
toxicity_1_max = toxicity_metric.compute(____)
toxicity_2_max = toxicity_metric.compute(____)
print("Maximum toxicity (user_1):", toxicity_1_max['max_toxicity'])
print("Maximum toxicity (user_2): ", toxicity_2_max['max_toxicity'])
# Calculate the toxicity ratios
toxicity_1_ratio = ____(____)
toxicity_2_ratio = ____(____)
print("Toxicity ratio (user_1):", toxicity_1_ratio['toxicity_ratio'])
print("Toxicity ratio (user_2): ", toxicity_2_ratio['toxicity_ratio'])