整合總複習 I
你已經打下穩固的 PySpark 基礎,探索了它的核心元件,並實作了包含 Spark SQL、DataFrame 與進階操作的情境。現在該把這些串連起來了。接下來的兩個練習中,你將建立一個 SparkSession 與一個 DataFrame,快取該 DataFrame,進行分析,並解釋結果!
本練習屬於課程
PySpark 入門
練習說明
- 從
pyspark.sql匯入SparkSession。 - 使用
SparkSession.builder.getOrCreate()建立名為final_spark的新SparkSession。 - 在主控台列印
my_spark,確認它是SparkSession。 - 依照預先載入的綱要與欄位定義建立一個新的 DataFrame。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Import SparkSession from pyspark.sql
from ____ import ____
# Create my_spark
my_spark = SparkSession.builder.appName(____).____
# Print my_spark
____
# Load dataset into a DataFrame
df = ____(data, schema=columns)
df.show()