パート2:DataFrame に対する SQL クエリ
作成した fifa_df DataFrame には、データ型や列名などの追加情報が含まれています。これにより、PySpark SQL は DataFrame に対して SQL クエリを実行できます。SQL クエリは DataFrame 操作に比べて簡潔で実行しやすいです。ただし、DataFrame に SQL クエリを適用するには、まず DataFrame の一時ビューをテーブルとして作成し、その作成したテーブルに対して SQL クエリを実行します(SQL クエリのプログラム的実行)。
このパートでは、fifa_df DataFrame の一時テーブルを作成し、ドイツ出身の選手の「Age」列を抽出するために SQL クエリを実行します。
ワークスペースにはすでに SparkContext の spark と fifa_df が用意されています。
この演習はコースの一部です
PySparkで学ぶBig Data入門
演習の手順
fifa_dfDataFrame から一時テーブルfifa_df_tableを作成します。fifa_df_tableからドイツの選手の "Age" 列を抽出する「query」を作成します。- その SQL の「query」を適用して、新しい DataFrame
fifa_df_germany_ageを作成します。 - 作成した DataFrame の基本統計量を計算します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Create a temporary view of fifa_df
fifa_df.____('fifa_df_table')
# Construct the "query"
query = '''SELECT ____ FROM ____ WHERE Nationality == "Germany"'''
# Apply the SQL "query"
fifa_df_germany_age = spark.____(____)
# Generate basic statistics
fifa_df_germany_age.____().show()