Interogări pe un view temporar
În acest exercițiu, vei exersa înregistrarea unui DataFrame ca view SQL temporar în PySpark. View-urile temporare sunt instrumente foarte utile: îți permit să interoghezi date folosind sintaxa SQL, ceea ce face manipulările complexe de date mai simple și mai intuitive. Scopul tău este să creezi un view dintr-un DataFrame furnizat și să rulezi interogări SQL asupra lui – o sarcină comună în lucrul cu ETL și ELT.
Ai deja un SparkContext, spark, și un DataFrame PySpark, df, disponibile în spațiul de lucru.
Acest exercițiu face parte din cursul
Introducere în PySpark
Instrucțiuni pentru exercițiu
- Înregistrează un view nou numit
"data_view"din DataFrame-uldf. - Rulează interogarea SQL furnizată pentru a calcula salariul total pe poziție.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Register as a view
df.____("data_view")
# Advanced SQL query: Calculate total salary by Position
result = ____("""
SELECT Position, SUM(Salary) AS Total_Salary
FROM data_view
GROUP BY Position
ORDER BY Total_Salary DESC
"""
)
result.show()