Độ tự tin thấp
Trong bài tập này, bạn sẽ làm việc với một mô hình phần thưởng để đánh giá mức độ tự tin khi mô hình phân loại văn bản đầu vào và lọc bỏ các dự đoán thiếu độ tin cậy. Mục tiêu là đánh giá khả năng tạo dự đoán của mô hình và áp dụng một ngưỡng độ tự tin để đảm bảo chỉ các dự đoán có độ tự tin cao mới được xem là hợp lệ.
Các biến phân phối xác suất cho mỗi văn bản phản hồi (prob_dists) và văn bản phản hồi (texts), cùng hàm least_confidence() đã được nạp sẵn.
Bài tập này là một phần của khóa học
Reinforcement Learning from Human Feedback (RLHF)
Hướng dẫn bài tập
- Định nghĩa hàm để lọc các chỉ số của các phân phối xác suất có độ tự tin thấp hơn một ngưỡng cho trước.
- Lấy các chỉ số của phản hồi bằng cách truyền các phân phối xác suất vào hàm, giữ nguyên ngưỡng (
0.5).
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Define the filter function
def filter_low_confidence_predictions(prob_dists, threshold=0.5):
filtered_indices = [i for i, ____ in enumerate(____) ____]
return filtered_indices
# Find the indices
filtered_indices = ____
high_confidence_texts = [texts[i] for i in filtered_indices]
print("High-confidence texts:", high_confidence_texts)