Kom igångKom igång gratis

Pandas UDF:er

Den här övningen handlar om pandas UDF:er – ett bra tillfälle att öva på syntaxen! Lägg märke till skillnaderna mellan PySpark-UDF:en från föregående övning och den här typen av UDF.

Kom ihåg att det redan finns en SparkSession kallad spark i din arbetsmiljö!

Den här övningen är en del av kursen

Introduktion till PySpark

Visa kurs

Övningsinstruktioner

  • Definiera funktionen add_ten_pandas() som en pandas UDF.
  • Lägg till en ny kolumn i DataFrame:en med namnet "10_plus" som tillämpar pandas UDF:en på kolumnen "value" i df.
  • Visa den resulterande DataFrame:en.

Interaktiv övning med praktiskt arbete

Testa den här övningen genom att slutföra den här exempelkoden.

# Define a Pandas UDF that adds 10 to each element in a vectorized way
@____(DoubleType())
def add_ten_pandas(column):
    return column + 10

# Apply the UDF and show the result
df.withColumn("10_plus", ____)
df.____
Redigera och kör kod