การรัน SQL Queries แบบ Programmatic
DataFrame สามารถจัดการได้อย่างสะดวกด้วยคิวรี SQL ใน PySpark โดยฟังก์ชัน sql() ใน SparkSession ช่วยให้แอปพลิเคชันรันคิวรี SQL แบบ Programmatic และส่งคืนผลลัพธ์เป็น DataFrame อีกตัวหนึ่ง ในแบบฝึกหัดนี้ คุณจะสร้างตารางชั่วคราวจาก DataFrame ที่สร้างไว้ก่อนหน้า จากนั้นสร้างคิวรีเพื่อเลือกชื่อของบุคคลจากตารางชั่วคราวนั้น และกำหนดผลลัพธ์ให้กับ DataFrame ใหม่
คุณมี SparkSession ชื่อ spark และ DataFrame พร้อมใช้งานในพื้นที่ทำงานของคุณอยู่แล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
Big Data Fundamentals with PySpark
คำแนะนำการฝึกหัด
- สร้างตารางชั่วคราว
people - สร้าง
queryเพื่อเลือกชื่อของบุคคลจากตารางชั่วคราวpeople - กำหนดผลลัพธ์ที่ได้จาก
queryของ Spark ให้กับ DataFrame ใหม่ชื่อpeople_df_names - แสดง 10 ชื่อแรกจาก DataFrame
people_df_names
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Create a temporary table "people"
people_df.____("people")
# Construct a query to select the names of the people from the temporary table "people"
query = '''SELECT name FROM ____'''
# Assign the result of Spark's query to people_df_names
people_df_names = spark.sql(____)
# Print the top 10 names of the people
people_df_names.____(____)