开始使用免费开始使用

查询临时视图

在本练习中,您将练习在 PySpark 中把 DataFrame 注册为临时 SQL 视图。临时视图非常实用,您可以用 SQL 语法来查询数据,从而更直观地完成复杂的数据处理。您的目标是基于提供的 DataFrame 创建一个视图,并对其运行 SQL 查询。这是 ETL 与 ELT 工作中的常见任务。

您的工作区中已提供 SparkContext spark 和一个 PySpark DataFrame df

本练习是课程的一部分

PySpark 入门

查看课程

练习说明

  • 将 DataFrame df 注册为名为 "data_view" 的新视图。
  • 运行给定的 SQL 查询,按职位计算总薪资。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Register as a view
df.____("data_view")

# Advanced SQL query: Calculate total salary by Position
result = ____("""
    SELECT Position, SUM(Salary) AS Total_Salary
    FROM data_view
    GROUP BY Position
    ORDER BY Total_Salary DESC
    """
)
result.show()
编辑并运行代码