查詢暫存檢視
在這個練習中,你會練習在 PySpark 中把 DataFrame 註冊為暫存 SQL 檢視。暫存檢視相當實用,能讓你用 SQL 語法查詢資料,讓複雜的資料操作更直覺。你的目標是從提供的 DataFrame 建立一個檢視,並對它執行 SQL 查詢;這是 ETL 與 ELT 工作中常見的任務。
你的工作環境中已經有 SparkContext spark,以及一個 PySpark DataFrame df 可用。
本練習屬於課程
PySpark 入門
練習說明
- 從 DataFrame
df註冊一個名為"data_view"的新檢視。 - 執行提供的 SQL 查詢,依職位計算總薪資。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Register as a view
df.____("data_view")
# Advanced SQL query: Calculate total salary by Position
result = ____("""
SELECT Position, SUM(Salary) AS Total_Salary
FROM data_view
GROUP BY Position
ORDER BY Total_Salary DESC
"""
)
result.show()