結合 II
PySpark では、結合は DataFrame メソッドの .join() で行います。このメソッドは3つの引数を取ります。1つ目は、最初の DataFrame と結合したい2つ目の DataFrame です。2つ目の引数 on には、キー列名(複数可)を文字列で指定します。キー列名は各テーブルで同一である必要があります。3つ目の引数 how には、実行する結合の種類を指定します。本コースでは常に how="leftouter" を使用します。
flights データセットと、新しいデータセット airports はすでにワークスペースに用意されています。
この演習はコースの一部です
PySpark入門
演習の手順
.show()を呼び出してairportsDataFrame を確認し、airportsをflightsテーブルに結合するためのキー列がどれかを把握します。airports.withColumnRenamed("faa", "dest")の結果をairportsに再代入して、airportsのfaa列名をdestに変更します。.join()をflightsに対して呼び出し、dest列でairportsDataFrame と結合して、結果をflights_with_airportsとして保存します。- 1つ目の引数はもう一方の DataFrame、つまり
airportsにします。 on引数にはキー列を指定します。how引数には"leftouter"を指定します。
- 1つ目の引数はもう一方の DataFrame、つまり
- データを再確認するために
flights_with_airportsに対して.show()を呼び出します。追加された新しい情報に注目してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Examine the data
print(____)
# Rename the faa column
airports = ____
# Join the DataFrames
flights_with_airports = ____
# Examine the new DataFrame
print(____)