Згенеруйте прогнози та обчисліть RMSE
Тепер, коли ми маємо модель, натреновану на наших даних і налаштовану методом перехресної валідації, подивімося, як вона працює на датафреймі test. Для цього обчислимо RMSE.
До речі, генерація тестових прогнозів із цим набором даних триває більше кількох хвилин. Тому тестові прогнози вже згенеровано й надано тут як датафрейм test_predictions. Для довідки, їх отримано за допомогою коду: test_predictions = best_model.transform(test).
Ця вправа є частиною курсу
Створення рушіїв рекомендацій у PySpark
Інструкції до вправи
- Датафрейм
test_predictionsмістить прогнози, які наша крос-валідаційна модель ALS згенерувала, використовуючи набірtest, створений раніше. Скористайтеся методом.show(), щоб переглянути його та оцінити, чи близькі прогнози. - Використайте
evaluator, який ви створили раніше, щоб обчислитиRMSE, викликавши метод.evaluate()для згенерованихtest_predictions. Назвіть це значенняRMSE. - Виведіть
RMSE.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# View the predictions
test_predictions.____()
# Calculate and print the RMSE of test_predictions
RMSE = evaluator.____(____)
print(____)