RMSE evaluator を作成する
学習データにモデルを当ててテスト予測を生成する方法が分かったので、次はモデルの性能を評価する方法が必要です。そのためにevaluatorを作成します。Spark の evaluator はさまざまな方法で作成できます。ここでは RMSE を計算するregressionEvaluatorを使います。regressionEvaluatorを作成したら、モデルをデータに適合させて予測を生成できます。
この演習はコースの一部です
PySpark で作る Recommendation Engines
演習の手順
pyspark.ml.evaluationクラスから必要なRegressionEvaluatorパッケージをインポートします。evaluatorのコードを完成させ、metric nameを"rmse"に指定します。ratingsデータで評価値が入っている列名をlabelColに設定し(列名はratings.columnsメソッドで確認できます)、prediction列名は"prediction"に設定します。evaluatorが正しく作成されたことを、次の3つのパラメータを取り出して確認しましょう。各行を print 文で実行します。evaluator.getMetricName()evaluator.getLabelCol()evaluator.getPredictionCol()
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import RegressionEvaluator
from pyspark.ml.evaluation import ____
# Complete the evaluator code
evaluator = RegressionEvaluator(metricName="____", labelCol="____", predictionCol="____")
# Extract the 3 parameters
print(evaluator.get____())
print(evaluator.get____())
print(evaluator.get____())