Začněte nyníZačněte zdarma

Celá čísla v UDF funkcích PySparku

Toto cvičení se zaměřuje na UDF funkce a ukáže ti, jak v PySparku vytvářet vlastní funkce! Při práci na něm přemýšlej o tom, co by takový přístup nahradil v procesu čištění dat.

Nezapomeň, že v tvém pracovním prostředí je už připravená SparkSession s názvem spark!

Toto cvičení je součástí kurzu

Introduction to PySpark

Zobrazit kurz

Pokyny k cvičení

  • Zaregistruj funkci age_category jako UDF s názvem age_category_udf.
  • Přidej do DataFrame df nový sloupec "category", který pomocí UDF zařadí osoby do kategorií podle věku. Argument pro age_category_udf() je již připraven.
  • Zobraz výsledný DataFrame.

Interaktivní cvičení na vyzkoušení si v praxi

Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.

# Register the function age_category as a UDF
age_category_udf = ____(age_category, StringType())

# Apply your udf to the DataFrame
age_category_df_2 = age_category_df.withColumn("category", ____(age_category_df["age"]))

# Show df
age_category_df_2.____
Upravit a spustit kód