始める無料で始める

Boolean を作成する

はい/いいえで答える質問(フライトは遅延したか?)をモデル化するとします。しかし、手元のデータには各フライトの到着遅延が分単位で入っています。そのため、フライトが遅延したかどうかを示す boolean 列を作成する必要があります。

この演習はコースの一部です

PySpark入門

コースを見る

演習の手順

  • .withColumn() メソッドを使って列 is_late を作成します。この列は model_data.arr_delay > 0 と等しくします。
  • この列をモデルで使えるように整数型に変換し、label という名前を付けます(これは Spark の Machine Learning ルーチンで応答変数の既定名です)。
  • 欠損値を除外します(この処理はすでに行っています)。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

# Create is_late
model_data = model_data.withColumn("is_late", ____)

# Convert to an integer
model_data = model_data.withColumn("label", ____)

# Remove missing values
model_data = model_data.filter("arr_delay is not NULL and dep_delay is not NULL and air_time is not NULL and plane_year is not NULL")
コードを編集して実行