Die Auswirkungen von "k" verstehen

Es gibt eine komplexe Beziehung zwischen k und der Klassifizierungsgenauigkeit. Größer ist nicht immer besser.

Welches ist ein triftiger Grund dafür, k so klein wie möglich zu halten (aber nicht kleiner)?