Dotazování nad dočasným pohledem
V tomto cvičení si procvičíš registraci DataFrame jako dočasného SQL pohledu v PySparku. Dočasné pohledy jsou užitečný nástroj, který ti umožňuje dotazovat se na data pomocí SQL syntaxe a dělá složité datové operace přehlednějšími a intuitivnějšími. Tvým úkolem je vytvořit pohled z připraveného DataFrame a spustit nad ním SQL dotazy – což je běžná práce při ETL a ELT procesech.
V pracovním prostoru máš k dispozici SparkContext spark a PySpark DataFrame df.
Toto cvičení je součástí kurzu
Introduction to PySpark
Pokyny k cvičení
- Zaregistruj nový pohled s názvem
"data_view"z DataFramedf. - Spusť připravený SQL dotaz pro výpočet celkové mzdy podle pozice.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Register as a view
df.____("data_view")
# Advanced SQL query: Calculate total salary by Position
result = ____("""
SELECT Position, SUM(Salary) AS Total_Salary
FROM data_view
GROUP BY Position
ORDER BY Total_Salary DESC
"""
)
result.show()