开始使用免费开始使用

到底什么是 Spark?

Spark 是一个集群计算平台。Spark 允许您将数据和计算分布到包含多个节点的集群中(可以把每个节点理解为一台独立的计算机)。把数据拆分后,每个节点只需处理一小部分数据,这样处理超大规模数据集就更容易。

每个节点在处理自己那部分数据的同时,也会完成整体计算的一部分,因此数据处理和计算都会在集群的各个节点上并行进行。并行计算确实能让某些类型的编程任务大幅加速。

不过,更强的算力也意味着更高的复杂度。

要判断 Spark 是否适合解决您的问题,需要一定经验,但您可以先考虑这些问题:

  • 我的数据是否大到一台机器难以处理?
  • 我的计算是否容易并行化?

准备好进一步学习 Spark 了吗?

本练习是课程的一部分

PySpark 基础

查看课程

动手互动练习

通过我们的互动练习之一,将理论转化为实践

开始练习