開始使用免費開始

你的資料有多少分割區

SparkContext 的 textFile() 方法有一個可選的第二個引數 minPartitions,用來指定最小分割區數。在這個練習中,你要建立一個名為 fileRDD_part、具有 5 個分割區的 RDD,然後與你在前一個練習建立的 fileRDD 做比較。請參考影片 2.1 中的「Understanding Partition」投影片,了解在 RDD 中建立分割區與取得分割區數量的方法。

請記住,你的工作環境中已經有 SparkContext scfile_pathfileRDD

本練習屬於課程

使用 PySpark 的 Big Data 基礎

檢視課程

練習說明

  • 找出 fileRDD RDD 的分割區數量。
  • 從檔案路徑建立名為 fileRDD_part 的 RDD,並建立 5 個分割區。
  • 確認新的 fileRDD_part RDD 的分割區數量。

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Check the number of partitions in fileRDD
print("Number of partitions in fileRDD is", fileRDD.____)

# Create a fileRDD_part from file_path with 5 partitions
fileRDD_part = sc.textFile(____, minPartitions = ____)

# Check the number of partitions in fileRDD_part
print("Number of partitions in fileRDD_part is", fileRDD_part.____)
編輯並執行程式碼