Dlaczego drzewa decyzyjne korzystają z przycinania?

Drzewa klasyfikacyjne mogą rosnąć w nieskończoność – dopóki nie dostanę sygnału do zatrzymania lub nie skończą się dane do podziału.

Podobnie jak drzewa w naturze, drzewa klasyfikacyjne, które rozrosną się zbyt mocno, wymagają przycinania, aby ograniczyć nadmierny rozrost. Zazwyczaj jednak skutkuje to tym, że drzewo poprawnie klasyfikuje mniej przykładów treningowych.

Dlaczego zatem wstępne przycinanie (pre-pruning) i przycinanie po treningu (post-pruning) są stosowane niemal zawsze?