Générer des prédictions et calculer la RMSE
Maintenant que nous avons un modèle entraîné sur nos données et ajusté par validation croisée, voyons comment il se comporte sur le dataframe test. Pour ce faire, nous allons calculer la RMSE.
À noter : la génération des prédictions de test prend plus que quelques minutes avec cet ensemble de données. Pour cette raison, les prédictions de test ont déjà été générées et sont fournies ici sous forme de dataframe nommé test_predictions. Pour votre référence, elles sont générées avec ce code : test_predictions = best_model.transform(test).
Cette activité fait partie du cours
Créer des moteurs de recommandation avec PySpark
Instructions de l’exercice
- Le dataframe
test_predictionscontient les prédictions que notre modèle ALS validé croisé a générées à partir de l'ensembletestque nous avons créé plus tôt. Utilisez la méthode.show()pour l'examiner et vérifier si les prédictions semblent proches. - Utilisez l'
evaluatorque vous avez construit précédemment pour calculer laRMSEen appelant la méthode.evaluate()surtest_predictions. Nommez ce résultatRMSE. - Affichez la valeur de la
RMSE.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# View the predictions
test_predictions.____()
# Calculate and print the RMSE of test_predictions
RMSE = evaluator.____(____)
print(____)