評価器を作成する
モデル選択のためにクロスバリデーションを行う際、最初に必要なのは、異なるモデルを比較する方法です。幸い、pyspark.ml.evaluation サブモジュールには、さまざまな種類のモデルを評価するクラスがあります。今回のモデルは二値分類モデルなので、pyspark.ml.evaluation モジュールの BinaryClassificationEvaluator を使います。
この評価器は ROC 曲線下面積(AUC)を計算します。これは、二値分類器が起こしうる 2 種類の誤り(偽陽性と偽陰性)を 1 つの数値にまとめた指標です。章の終わりで、これについてさらに詳しく学びます。
この演習はコースの一部です
PySpark入門
演習の手順
- サブモジュール
pyspark.ml.evaluationをevalsとしてインポートします。 - 引数
metricName="areaUnderROC"を指定してevals.BinaryClassificationEvaluator()を呼び出し、evaluatorを作成します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import the evaluation submodule
import ____ as evals
# Create a BinaryClassificationEvaluator
evaluator = ____