开始使用免费开始使用

来自外部数据集的 RDD

PySpark 可以轻松地从存储在外部存储设备(如 HDFS(Hadoop Distributed File System)、Amazon S3 存储桶等)中的文件创建 RDD。不过,最常见的方式是从本地文件系统中的文件创建 RDD。该方法接收一个文件路径,并将文件读取为由多行组成的集合。在本练习中,您将使用文件路径(file_path)创建一个来自文件名为 README.md 的 RDD,该文件已在您的工作区中可用。

请记住,您的工作区中已经提供了 SparkContext sc

本练习是课程的一部分

使用 PySpark 的大数据基础

查看课程

练习说明

  • 在 PySpark shell 中打印 file_path
  • file_path 创建名为 fileRDD 的 RDD。
  • 打印所创建 fileRDD 的类型。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Print the file_path
print("The file_path is", ____)

# Create a fileRDD from file_path
fileRDD = sc.____(file_path)

# Check the type of fileRDD
print("The file type of fileRDD is", type(____))
编辑并运行代码