Zliczanie po kluczach
W przypadku wielu zbiorów danych istotne jest zliczenie liczby kluczy w zbiorze par klucz/wartość. Przydaje się to na przykład wtedy, gdy chcesz policzyć, w ilu krajach sprzedano dany produkt, albo wyświetlić najpopularniejsze imiona dzieci. W tym ćwiczeniu użyjesz wcześniej utworzonego Rdd i zliczysz liczbę unikalnych kluczy w tym parowym RDD.
Pamiętaj, że w twoim środowisku pracy dostępne są już SparkContext sc oraz Rdd.
To ćwiczenie jest częścią kursu
Podstawy Big Data z PySpark
Instrukcje do ćwiczenia
- Użyj
countByKeyi przypisz wynik do zmiennejtotal. - Jaki jest typ zmiennej
total? - Iteruj po
totali wypisz klucze wraz z ich liczbą wystąpień.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Count the unique keys
total = Rdd.____()
# What is the type of total?
print("The type of total is", ____(total))
# Iterate over the total and print the output
for k, v in total.___():
print("key", ____, "has", ____, "counts")