Pandas UDF:er
Den här övningen handlar om pandas UDF:er – ett bra tillfälle att öva på syntaxen! Lägg märke till skillnaderna mellan PySpark-UDF:en från föregående övning och den här typen av UDF.
Kom ihåg att det redan finns en SparkSession kallad spark i din arbetsmiljö!
Den här övningen är en del av kursen
Introduktion till PySpark
Övningsinstruktioner
- Definiera funktionen
add_ten_pandas()som en pandas UDF. - Lägg till en ny kolumn i DataFrame:en med namnet
"10_plus"som tillämpar pandas UDF:en på kolumnen"value"idf. - Visa den resulterande DataFrame:en.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Define a Pandas UDF that adds 10 to each element in a vectorized way
@____(DoubleType())
def add_ten_pandas(column):
return column + 10
# Apply the UDF and show the result
df.withColumn("10_plus", ____)
df.____