รวมทุกอย่างเข้าด้วยกัน I
ตอนนี้คุณมีพื้นฐาน PySpark ที่แข็งแกร่งแล้ว ได้สำรวจส่วนประกอบหลักต่าง ๆ และฝึกทำงานกับ Spark SQL, DataFrame รวมถึงการดำเนินการขั้นสูง ถึงเวลาแล้วที่จะนำทุกอย่างมารวมกัน ในสองแบบฝึกหัดถัดไป เราจะสร้าง SparkSession และ DataFrame แคช DataFrame นั้น จากนั้นทำการวิเคราะห์ข้อมูลและอธิบายผลลัพธ์ที่ได้
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
PySpark เบื้องต้น
คำแนะนำการฝึกหัด
- Import
SparkSessionจากpyspark.sql - สร้าง
SparkSessionใหม่ชื่อfinal_sparkโดยใช้SparkSession.builder.getOrCreate() - พิมพ์
my_sparkออกทางคอนโซลเพื่อยืนยันว่าเป็นSparkSession - สร้าง DataFrame ใหม่จาก schema และนิยามคอลัมน์ที่โหลดไว้ล่วงหน้า
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Import SparkSession from pyspark.sql
from ____ import ____
# Create my_spark
my_spark = SparkSession.builder.appName(____).____
# Print my_spark
____
# Load dataset into a DataFrame
df = ____(data, schema=columns)
df.show()