Celá čísla v UDF funkcích PySparku
Toto cvičení se zaměřuje na UDF funkce a ukáže ti, jak v PySparku vytvářet vlastní funkce! Při práci na něm přemýšlej o tom, co by takový přístup nahradil v procesu čištění dat.
Nezapomeň, že v tvém pracovním prostředí je už připravená SparkSession s názvem spark!
Toto cvičení je součástí kurzu
Introduction to PySpark
Pokyny k cvičení
- Zaregistruj funkci
age_categoryjako UDF s názvemage_category_udf. - Přidej do DataFrame
dfnový sloupec"category", který pomocí UDF zařadí osoby do kategorií podle věku. Argument proage_category_udf()je již připraven. - Zobraz výsledný DataFrame.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Register the function age_category as a UDF
age_category_udf = ____(age_category, StringType())
# Apply your udf to the DataFrame
age_category_df_2 = age_category_df.withColumn("category", ____(age_category_df["age"]))
# Show df
age_category_df_2.____