你的資料有多少分割區
SparkContext 的 textFile() 方法有一個可選的第二個引數 minPartitions,用來指定最小分割區數。在這個練習中,你要建立一個名為 fileRDD_part、具有 5 個分割區的 RDD,然後與你在前一個練習建立的 fileRDD 做比較。請參考影片 2.1 中的「Understanding Partition」投影片,了解在 RDD 中建立分割區與取得分割區數量的方法。
請記住,你的工作環境中已經有 SparkContext sc、file_path 和 fileRDD。
本練習屬於課程
使用 PySpark 的 Big Data 基礎
練習說明
- 找出
fileRDDRDD 的分割區數量。 - 從檔案路徑建立名為
fileRDD_part的 RDD,並建立 5 個分割區。 - 確認新的
fileRDD_partRDD 的分割區數量。
動手互動練習
試著完成這個範例程式碼,體驗一下這個練習。
# Check the number of partitions in fileRDD
print("Number of partitions in fileRDD is", fileRDD.____)
# Create a fileRDD_part from file_path with 5 partitions
fileRDD_part = sc.textFile(____, minPartitions = ____)
# Check the number of partitions in fileRDD_part
print("Number of partitions in fileRDD_part is", fileRDD_part.____)