開始使用免費開始

在 DataFrame 上用 SQL 做分析

相較於直接操作 DataFrame,SQL 查詢更精簡、也更容易執行。不過,要在 DataFrame 上使用 SQL 查詢,必須先把它註冊成為一個暫存檢視(視為資料表),然後再對該資料表執行 SQL 查詢。

你的工作空間中已經有 SparkContext sparksalaries_df 可以使用。

本練習屬於課程

PySpark 入門

檢視課程

練習說明

  • salaries_df DataFrame 建立暫存資料表 "salaries_table"
  • 撰寫查詢,從 company_location 為加拿大("CA")的資料中擷取「job_title」欄位。
  • 套用該 SQL 查詢並建立新的 DataFrame canada_titles
  • 產生此資料表的摘要。

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Create a temporary view of salaries_table
salaries_df.____('salaries_table')

# Construct the "query"
query = '''SELECT job_title, salary_in_usd FROM ____ WHERE company_location == "CA"'''

# Apply the SQL "query"
canada_titles = spark.____(____)

# Generate basic statistics
canada_titles.____().show()
編輯並執行程式碼