Testovací vs. trénovací sada

Jakmile data vyčistíš a připravíš je pro modelování, jedním z nejdůležitějších kroků je rozdělení na testovací sadu a trénovací sadu. Po tomto rozdělení se testovacích dat nedotýkej, dokud si nebudeš jistý/á, že máš dobrý model! Při budování modelů a ověřování hypotéz je testuj na trénovacích datech, abys získal/a představu o jejich výkonu.

Až si vybereš svůj nejlepší model, můžeš otestovat, jak dobře predikuje nová data v testovací sadě. Tato data, která model dosud nikdy neviděl, ti dají mnohem realističtější obrázek o jeho výkonu v praxi – při predikci nebo klasifikaci nových dat.

V Sparku je důležité data rozdělit až po všech transformacích. Důvodem je, že operace jako StringIndexer nemusí vždy vytvořit stejné indexy, i když dostanou stejný seznam řetězců.

Proč je při vyhodnocování modelu důležité používat testovací sadu?