开始使用免费开始使用

在 DataFrame 上使用 SQL 做分析

与 DataFrame 操作相比,SQL 查询更简洁、执行也更容易。但要在 DataFrame 上应用 SQL 查询,您需要先把该 DataFrame 注册成一个临时视图(表),然后再对这个表执行 SQL 查询。

您的工作区中已经提供了 SparkContext sparksalaries_df

本练习是课程的一部分

PySpark 入门

查看课程

练习说明

  • salaries_df DataFrame 创建名为 "salaries_table" 的临时表。
  • 构造一个查询,从 company_location 为加拿大("CA")的记录中提取 "job_title" 列。
  • 运行该 SQL 查询并创建新的 DataFrame canada_titles
  • 获取该表的汇总信息。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Create a temporary view of salaries_table
salaries_df.____('salaries_table')

# Construct the "query"
query = '''SELECT job_title, salary_in_usd FROM ____ WHERE company_location == "CA"'''

# Apply the SQL "query"
canada_titles = spark.____(____)

# Generate basic statistics
canada_titles.____().show()
编辑并运行代码