Перекрёстная проверка

В следующих нескольких упражнениях вы будете настраивать модель логистической регрессии с помощью процедуры k-fold перекрёстной проверки (k-кратная перекрёстная проверка). Это метод оценки качества модели на новых данных (например, на вашем DataFrame test).

Метод работает следующим образом: обучающие данные разбиваются на несколько частей. Количество частей вы выбираете сами; в этом курсе используется значение по умолчанию в PySpark — три. После разбиения одна из частей откладывается в сторону, а модель обучается на остальных. Затем измеряется ошибка на отложенной части. Процедура повторяется для каждой из частей, так что каждый блок данных ровно один раз используется в качестве тестовой выборки. В конце ошибки по всем частям усредняются. Это называется ошибкой перекрёстной проверки модели и служит хорошей оценкой реальной ошибки на отложенных данных.

Вы будете использовать перекрёстную проверку для выбора гиперпараметров: создадите сетку из всех возможных пар значений двух гиперпараметров — elasticNetParam и regParam — и с помощью ошибки перекрёстной проверки сравните все варианты моделей, чтобы выбрать наилучшую!

Что позволяет оценить перекрёстная проверка?