Integer ใน PySpark UDF
แบบฝึกหัดนี้เกี่ยวกับ UDF เพื่อให้เข้าใจการสร้างฟังก์ชันใน PySpark ขณะทำแบบฝึกหัด ลองคิดดูว่า UDF จะมาแทนที่ขั้นตอนใดในกระบวนการทำความสะอาดข้อมูล
อย่าลืมว่ามี SparkSession ชื่อ spark อยู่ใน workspace ของคุณแล้ว!
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
PySpark เบื้องต้น
คำแนะนำการฝึกหัด
- ลงทะเบียนฟังก์ชัน
age_categoryเป็น UDF ชื่อage_category_udf - เพิ่มคอลัมน์ใหม่ชื่อ
"category"ใน DataFramedfโดยนำ UDF มาใช้จัดหมวดหมู่บุคคลตามอายุ (อาร์กิวเมนต์สำหรับage_category_udf()เตรียมไว้ให้แล้ว) - แสดง DataFrame ที่ได้
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Register the function age_category as a UDF
age_category_udf = ____(age_category, StringType())
# Apply your udf to the DataFrame
age_category_df_2 = age_category_df.withColumn("category", ____(age_category_df["age"]))
# Show df
age_category_df_2.____