Join (Phần II)
Trong PySpark, việc join được thực hiện bằng phương thức .join() của DataFrame. Phương thức này nhận ba đối số. Đối số đầu tiên là DataFrame thứ hai mà bạn muốn join với DataFrame thứ nhất. Đối số thứ hai, on, là tên cột (hoặc các cột) khóa dưới dạng chuỗi. Tên cột khóa phải giống nhau ở mỗi bảng. Đối số thứ ba, how, xác định kiểu join cần thực hiện. Trong khóa học này, chúng ta sẽ luôn dùng giá trị how="leftouter".
Bộ dữ liệu flights và một bộ dữ liệu mới tên airports đã có sẵn trong không gian làm việc của bạn.
Bài tập này là một phần của khóa học
Nền tảng về PySpark
Hướng dẫn bài tập
- Khám phá DataFrame
airportsbằng cách gọi.show(). Ghi chú xem cột khóa nào sẽ cho phép bạn joinairportsvới bảngflights. - Đổi tên cột
faatrongairportsthànhdestbằng cách gán lại kết quả củaairports.withColumnRenamed("faa", "dest")vàoairports. - Join
flightsvới DataFrameairportstrên cộtdestbằng cách gọi phương thức.join()trênflights. Lưu kết quả thànhflights_with_airports.- Đối số đầu tiên phải là DataFrame còn lại,
airports. - Đối số
onphải là cột khóa. - Đối số
howphải là"leftouter".
- Đối số đầu tiên phải là DataFrame còn lại,
- Gọi
.show()trênflights_with_airportsđể xem lại dữ liệu. Ghi chú thông tin mới đã được thêm vào.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Examine the data
print(____)
# Rename the faa column
airports = ____
# Join the DataFrames
flights_with_airports = ____
# Examine the new DataFrame
print(____)