Entendendo o impacto de "k

Há uma relação complexa entre k e a precisão da classificação. Maior nem sempre é melhor.

Qual desses é um motivo válido para manter k o menor possível (mas não menor)?