开始使用免费开始使用

ReduceByKey 与 Collect

最常用的键值对 RDD 转换之一是 reduceByKey()。它作用于键/值对 (k,v),对每个键的所有值进行合并。本练习中,您将先从元组列表创建一个键值对 RDD,然后将相同键的值合并,最后打印结果。

提醒:您的工作区中已提供 SparkContext sc

本练习是课程的一部分

使用 PySpark 的大数据基础

查看课程

练习说明

  • 创建名为 Rdd 的键值对 RDD,包含元组 (1,2)(3,4)(3,6)(4,5)
  • 使用 reduceByKey()Rdd 转换,按键将值相加,得到键值对 RDD Rdd_Reduced
  • 收集键值对 RDD Rdd_Reduced 的内容并遍历打印输出。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Create PairRDD Rdd with key value pairs
Rdd = sc.parallelize([____])

# Apply reduceByKey() operation on Rdd
Rdd_Reduced = Rdd.reduceByKey(lambda x, y: ____)

# Iterate over the result and print the output
for num in Rdd_Reduced.____: 
  print("Key {} has {} Counts".format(____, num[1]))
编辑并运行代码