始める無料で始める

パート2:DataFrame に対する SQL クエリ

作成した fifa_df DataFrame には、データ型や列名などの追加情報が含まれています。これにより、PySpark SQL は DataFrame に対して SQL クエリを実行できます。SQL クエリは DataFrame 操作に比べて簡潔で実行しやすいです。ただし、DataFrame に SQL クエリを適用するには、まず DataFrame の一時ビューをテーブルとして作成し、その作成したテーブルに対して SQL クエリを実行します(SQL クエリのプログラム的実行)。

このパートでは、fifa_df DataFrame の一時テーブルを作成し、ドイツ出身の選手の「Age」列を抽出するために SQL クエリを実行します。

ワークスペースにはすでに SparkContext の sparkfifa_df が用意されています。

この演習はコースの一部です

PySparkで学ぶBig Data入門

コースを見る

演習の手順

  • fifa_df DataFrame から一時テーブル fifa_df_table を作成します。
  • fifa_df_table からドイツの選手の "Age" 列を抽出する「query」を作成します。
  • その SQL の「query」を適用して、新しい DataFrame fifa_df_germany_age を作成します。
  • 作成した DataFrame の基本統計量を計算します。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

# Create a temporary view of fifa_df
fifa_df.____('fifa_df_table')

# Construct the "query"
query = '''SELECT ____ FROM ____ WHERE Nationality == "Germany"'''

# Apply the SQL "query"
fifa_df_germany_age = spark.____(____)

# Generate basic statistics
fifa_df_germany_age.____().show()
コードを編集して実行