Pandas UDFs
本练习涉及 Pandas UDF,方便您练习其语法!在完成本练习时,请留意上一题中 PySpark UDF 与此类 UDF 之间的差异。
请记住,您的工作区中已经有一个名为 spark 的 SparkSession!
本练习是课程的一部分
PySpark 入门
练习说明
- 将
add_ten_pandas()定义为 pandas UDF。 - 向 DataFrame 添加一个名为
"10_plus"的新列,对df的"value"列应用该 pandas UDF。 - 显示结果 DataFrame。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Define a Pandas UDF that adds 10 to each element in a vectorized way
@____(DoubleType())
def add_ten_pandas(column):
return column + 10
# Apply the UDF and show the result
df.withColumn("10_plus", ____)
df.____