Pandas UDF
Toto cvičení se zaměřuje na pandas UDF — procvičíš si jejich syntaxi! Při práci si všimni rozdílů mezi PySpark UDF z předchozího cvičení a tímto typem UDF.
Mimochodem, v tvém pracovním prostředí už je připravená SparkSession s názvem spark!
Toto cvičení je součástí kurzu
Introduction to PySpark
Pokyny k cvičení
- Definuj funkci
add_ten_pandas()jako pandas UDF. - Přidej do DataFrame nový sloupec s názvem
"10_plus", který aplikuje pandas UDF na sloupec"value"zdf. - Zobraz výsledný DataFrame.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Define a Pandas UDF that adds 10 to each element in a vectorized way
@____(DoubleType())
def add_ten_pandas(column):
return column + 10
# Apply the UDF and show the result
df.withColumn("10_plus", ____)
df.____