Подсчёт по ключам
Во многих наборах данных важно знать количество ключей в структуре «ключ/значение». Например, можно подсчитать, в скольких странах продавался товар, или определить самые популярные имена для новорождённых. В этом упражнении вы воспользуетесь ранее созданным Rdd и подсчитаете количество уникальных ключей в этом парном RDD.
Напомним, что SparkContext sc и Rdd уже доступны в вашем рабочем пространстве.
Это упражнение является частью курса
Основы Big Data с PySpark
Инструкции к упражнению
- Примените
countByKeyи присвойте результат переменнойtotal. - Определите тип переменной
total. - Выполните перебор
totalи выведите ключи вместе с их счётчиками.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Count the unique keys
total = Rdd.____()
# What is the type of total?
print("The type of total is", ____(total))
# Iterate over the total and print the output
for k, v in total.___():
print("key", ____, "has", ____, "counts")