曜日の二値化
前の動画で、週末に物件が掲載される可能性はとても低いとわかりました。平日に掲載かどうかを示す新しいフィールドを作成しましょう。この例では、List_Day_of_Week というフィールドがあり、Monday が 1.0、Sunday が 7.0 とラベル付けされています。これを、平日を 0、週末を 1 とする二値のフィールドに変換します。これには PySpark の特徴量トランスフォーマー Binarizer を使います。
この演習はコースの一部です
PySparkで学ぶ特徴量エンジニアリング
演習の手順
pysparkのml.featureモジュールから特徴量トランスフォーマーBinarizerをインポートします。Binarizer()を使ってトランスフォーマーを作成します。1 にするしきい値は Friday の次、つまり 5.0 より後に設定し、入力列をList_Day_of_Week、出力列をListed_On_Weekendにします。transform()を使ってdfに Binarizer の変換を適用します。show()でList_Day_of_WeekとListed_On_Weekendの列を選択して、変換が正しく行われたか確認します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import transformer
from pyspark.____.____ import ____
# Create the transformer
binarizer = ____(threshold=____ inputCol=____, outputCol=____)
# Apply the transformation to df
df = binarizer.____(____)
# Verify transformation
df[[____, ____]].____()