Khi ước lượng hiệu suất bị lệch

Hãy tưởng tượng bạn là một nhà khoa học dữ liệu tại một ngân hàng, đang làm về bài toán vỡ nợ khoản vay. Mỗi tháng bạn nhận được nhãn để xác thực mô hình và thuật toán ước lượng hiệu suất. Trong một tháng nào đó, bạn quan sát thấy nhiều khách hàng có công việc lương cao lại vỡ nợ thường xuyên hơn do lạm phát tăng mạnh và khủng hoảng việc làm đi kèm.

Khi bạn so sánh hiệu suất ước lượng với hiệu suất thực tế, bạn nhận thấy sự chênh lệch đáng kể giữa chúng.

Tại sao thuật toán ước lượng hiệu suất lại không hiệu quả trong tình huống này?