Spouštění SQL dotazů nad DataFrames
DataFrames v PySparku lze snadno manipulovat pomocí SQL dotazů. Metoda .sql() objektu SparkSession umožňuje spouštět SQL dotazy programově a vrací výsledek jako nový DataFrame. V tomto cvičení vytvoříš dočasnou tabulku z DataFrame, který jsi vytvořil/a dříve, sestavíš dotaz pro výběr jmen osob z této dočasné tabulky a výsledek přiřadíš do nového DataFrame.
Máš k dispozici SparkSession spark a DataFrame df.
Toto cvičení je součástí kurzu
Introduction to PySpark
Pokyny k cvičení
- Vytvoř dočasnou tabulku s názvem
"people"z DataFramedf. - Sestav dotaz, který vybere jména osob z dočasné tabulky
people. - Přiřaď výsledek Sparkova dotazu do nového DataFrame s názvem
people_df_names. - Vypiš prvních 10 jmen osob z DataFrame
people_df_names.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Create a temporary table "people"
df.____("people")
# Select the names from the temporary table people
query = """SELECT name FROM ____"""
# Assign the result of Spark's query to people_df_names
people_df_names = spark.sql(____)
# Print the top 10 names of the people
people_df_names.____(____)