Construir avaliador de RMSE
Agora que você já sabe como ajustar um modelo aos dados de treino e gerar previsões de teste, é preciso uma forma de avaliar o desempenho do modelo. Para isso, vamos construir um evaluator. Avaliadores no Spark podem ser criados de várias maneiras. No nosso caso, queremos um regressionEvaluator que calcule o RMSE. Depois de construir o regressionEvaluator, podemos ajustar o modelo aos nossos dados e gerar previsões.
Este exercicio faz parte do curso
Construindo mecanismos de recomendação com PySpark
Instruções do exercicio
- Importe o pacote
RegressionEvaluatorda classepyspark.ml.evaluation. - Complete o código do
evaluator, especificando ometric namecomo"rmse". DefinalabelColcomo o nome da coluna no nosso conjuntoratingsque contém as avaliações (use o métodoratings.columnspara ver os nomes das colunas) e defina o nome da coluna depredictioncomo"prediction". - Confirme que o
evaluatorfoi criado corretamente extraindo cada um dos três parâmetros. Faça isso executando as 3 linhas de código a seguir, cada uma dentro de um print:evaluator.getMetricName()evaluator.getLabelCol()evaluator.getPredictionCol()
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
# Import RegressionEvaluator
from pyspark.ml.evaluation import ____
# Complete the evaluator code
evaluator = RegressionEvaluator(metricName="____", labelCol="____", predictionCol="____")
# Extract the 3 parameters
print(evaluator.get____())
print(evaluator.get____())
print(evaluator.get____())