Создание оценщика RMSE
Теперь, когда вы умеете обучать модель на тренировочных данных и генерировать прогнозы для тестовой выборки, нужно научиться оценивать качество модели. Для этого мы создадим evaluator. В Spark оценщики можно строить различными способами. В нашем случае понадобится regressionEvaluator, который вычисляет RMSE. После его создания мы сможем обучить модель на данных и получить прогнозы.
Это упражнение является частью курса
Построение рекомендательных систем с помощью PySpark
Инструкции к упражнению
- Импортируйте необходимый пакет
RegressionEvaluatorиз классаpyspark.ml.evaluation. - Заполните код
evaluator, указавmetric nameравным"rmse". ЗадайтеlabelColкак название столбца в данныхratings, содержащего оценки (используйте методratings.columns, чтобы посмотреть названия столбцов), аprediction— как имя столбца прогнозов:"prediction". - Убедитесь, что
evaluatorсоздан корректно, извлекая каждый из трёх параметров. Для этого выполните следующие 3 строки кода, каждую внутри оператораprint:evaluator.getMetricName()evaluator.getLabelCol()evaluator.getPredictionCol()
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Import RegressionEvaluator
from pyspark.ml.evaluation import ____
# Complete the evaluator code
evaluator = RegressionEvaluator(metricName="____", labelCol="____", predictionCol="____")
# Extract the 3 parameters
print(evaluator.get____())
print(evaluator.get____())
print(evaluator.get____())