การรวมข้อมูล II
เพื่อให้คุ้นเคยกับเมธอดการรวมข้อมูลแบบต่างๆ ที่มีให้ใช้งาน มาลองทำแบบฝึกหัดเพิ่มเติมที่เกี่ยวกับตาราง flights กัน!
จำไว้ว่า SparkSession ชื่อ spark และ Spark DataFrame ชื่อ flights พร้อมใช้งานใน workspace ของคุณแล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
พื้นฐาน PySpark
คำแนะนำการฝึกหัด
- ใช้เมธอด
.avg()เพื่อหาค่าเฉลี่ยเวลาในอากาศของเที่ยวบิน Delta Airlines (ที่คอลัมน์carrierมีค่าเป็น"DL") ที่ออกเดินทางจาก SEA โดยข้อมูลจุดออกเดินทางอยู่ในคอลัมน์originจากนั้นshow()ผลลัพธ์ - ใช้เมธอด
.sum()เพื่อหาจำนวนชั่วโมงรวมที่เครื่องบินทุกลำในชุดข้อมูลนี้ใช้อยู่ในอากาศ โดยสร้างคอลัมน์ชื่อduration_hrsจากคอลัมน์air_timeจากนั้นshow()ผลลัพธ์
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Average duration of Delta flights
flights.filter(____.____ == "____").filter(____.____ == "____").groupBy().avg("____").show()
# Total hours in the air
flights.withColumn("____", flights.air_time/60).groupBy().sum("____").show()