在 DataFrame 上使用 SQL 做分析
与 DataFrame 操作相比,SQL 查询更简洁、执行也更容易。但要在 DataFrame 上应用 SQL 查询,您需要先把该 DataFrame 注册成一个临时视图(表),然后再对这个表执行 SQL 查询。
您的工作区中已经提供了 SparkContext spark 和 salaries_df。
本练习是课程的一部分
PySpark 入门
练习说明
- 由
salaries_dfDataFrame 创建名为"salaries_table"的临时表。 - 构造一个查询,从
company_location为加拿大("CA")的记录中提取 "job_title" 列。 - 运行该 SQL 查询并创建新的 DataFrame
canada_titles。 - 获取该表的汇总信息。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Create a temporary view of salaries_table
salaries_df.____('salaries_table')
# Construct the "query"
query = '''SELECT job_title, salary_in_usd FROM ____ WHERE company_location == "CA"'''
# Apply the SQL "query"
canada_titles = spark.____(____)
# Generate basic statistics
canada_titles.____().show()