ReduceByKey 与 Collect
最常用的键值对 RDD 转换之一是 reduceByKey()。它作用于键/值对 (k,v),对每个键的所有值进行合并。本练习中,您将先从元组列表创建一个键值对 RDD,然后将相同键的值合并,最后打印结果。
提醒:您的工作区中已提供 SparkContext sc。
本练习是课程的一部分
使用 PySpark 的大数据基础
练习说明
- 创建名为
Rdd的键值对 RDD,包含元组(1,2)、(3,4)、(3,6)、(4,5)。 - 使用
reduceByKey()对Rdd转换,按键将值相加,得到键值对 RDDRdd_Reduced。 - 收集键值对 RDD
Rdd_Reduced的内容并遍历打印输出。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Create PairRDD Rdd with key value pairs
Rdd = sc.parallelize([____])
# Apply reduceByKey() operation on Rdd
Rdd_Reduced = Rdd.reduceByKey(lambda x, y: ____)
# Iterate over the result and print the output
for num in Rdd_Reduced.____:
print("Key {} has {} Counts".format(____, num[1]))