建立 SparkSession
在這個練習中,你會啟動一個使用所有可用核心的本機 Spark 叢集。你將透過一個 SparkSession 物件來存取該叢集。
SparkSession 類別有一個 builder 屬性,它是 Builder 類別的實例。Builder 類別提供三個重要方法,可讓你:
- 指定 master 節點的位置;
- 為應用程式命名(選用);以及
- 取得既有的
SparkSession,若沒有則建立一個新的。
SparkSession 類別有一個 version 屬性,用來回傳 Spark 的版本。注意: 也可以從 pyspark 模組上的 __version__ 屬性取得版本。
在此處了解更多關於 SparkSession 的資訊:here。
當你使用完叢集後,最好將其關閉,以釋放資源,讓其他程序可以使用。
注意事項:
- 你可以回顧課程中的投影片,位於 Slides 面板,旁邊是 IPython Shell。
- 本練習中的 Spark 版本與課程投影片中的版本並不相同。練習平台已更新為較新的 Spark 版本。
本練習屬於課程
使用 PySpark 的機器學習
練習說明
- 從
pyspark.sql匯入SparkSession類別。 - 建立連線至本機叢集的
SparkSession物件。使用所有可用核心。將應用程式命名為'test'。 - 使用
SparkSession物件的version屬性,取得在叢集上執行的 Spark 版本。注意: 版本可能與投影片中的不同(平台會不定期更新)。 - 關閉叢集。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Import the SparkSession class
from ____ import ____
# Create SparkSession object
spark = SparkSession.builder \
.master(____) \
.____(____) \
.____()
# What version of Spark?
print(spark.____)
# Terminate the cluster
spark.____()