開始使用免費開始

建立 SparkSession

在這個練習中,你會啟動一個使用所有可用核心的本機 Spark 叢集。你將透過一個 SparkSession 物件來存取該叢集。

SparkSession 類別有一個 builder 屬性,它是 Builder 類別的實例。Builder 類別提供三個重要方法,可讓你:

  • 指定 master 節點的位置;
  • 為應用程式命名(選用);以及
  • 取得既有的 SparkSession,若沒有則建立一個新的。

SparkSession 類別有一個 version 屬性,用來回傳 Spark 的版本。注意: 也可以從 pyspark 模組上的 __version__ 屬性取得版本。

在此處了解更多關於 SparkSession 的資訊:here

當你使用完叢集後,最好將其關閉,以釋放資源,讓其他程序可以使用。

注意事項:

  1. 你可以回顧課程中的投影片,位於 Slides 面板,旁邊是 IPython Shell
  2. 本練習中的 Spark 版本與課程投影片中的版本並不相同。練習平台已更新為較新的 Spark 版本。

本練習屬於課程

使用 PySpark 的機器學習

檢視課程

練習說明

  • pyspark.sql 匯入 SparkSession 類別。
  • 建立連線至本機叢集的 SparkSession 物件。使用所有可用核心。將應用程式命名為 'test'
  • 使用 SparkSession 物件的 version 屬性,取得在叢集上執行的 Spark 版本。注意: 版本可能與投影片中的不同(平台會不定期更新)。
  • 關閉叢集。

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Import the SparkSession class
from ____ import ____

# Create SparkSession object
spark = SparkSession.builder \
                    .master(____) \
                    .____(____) \
                    .____()

# What version of Spark?
print(spark.____)

# Terminate the cluster
spark.____()
編輯並執行程式碼