そもそも Spark って何ですか?
Spark はクラスターコンピューティングのためのプラットフォームです。Spark を使うと、データや計算を複数の「ノード」(それぞれを別々のコンピュータだと考えてください)からなる「クラスター」に分散できます。データを分割することで、各ノードが少量のデータだけを扱うため、非常に大きなデータセットでも扱いやすくなります。
各ノードは全体のデータの一部を処理すると同時に、必要な計算の一部も実行します。つまり、クラスター内のノード間でデータ処理と計算が「並列」に行われます。並列計算は、特定の種類のプログラミング課題を大幅に高速化できることが知られています。
ただし、計算能力が上がるほど、システムは複雑になります。
Spark があなたの課題に最適かどうかを判断するには経験も必要ですが、次のような観点を検討できます。
- データは 1 台のマシンで扱うには大きすぎませんか?
- 計算は簡単に並列化できますか?
Spark について、もっと学ぶ準備はできましたか?
この演習はコースの一部です
