Boolean を作成する
はい/いいえで答える質問(フライトは遅延したか?)をモデル化するとします。しかし、手元のデータには各フライトの到着遅延が分単位で入っています。そのため、フライトが遅延したかどうかを示す boolean 列を作成する必要があります。
この演習はコースの一部です
PySpark入門
演習の手順
.withColumn()メソッドを使って列is_lateを作成します。この列はmodel_data.arr_delay > 0と等しくします。- この列をモデルで使えるように整数型に変換し、
labelという名前を付けます(これは Spark の Machine Learning ルーチンで応答変数の既定名です)。 - 欠損値を除外します(この処理はすでに行っています)。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Create is_late
model_data = model_data.withColumn("is_late", ____)
# Convert to an integer
model_data = model_data.withColumn("label", ____)
# Remove missing values
model_data = model_data.filter("arr_delay is not NULL and dep_delay is not NULL and air_time is not NULL and plane_year is not NULL")