Pisanie iteratora do wczytywania danych we fragmentach (4)

W poprzednich ćwiczeniach przetwarzałeś dane tylko z pierwszego fragmentu DataFrame. Tym razem zagrepujesz wyniki ze wszystkich fragmentów DataFrame w zbiorze danych. Oznacza to, że będziesz przetwarzać cały zbiór danych naraz. To świetne rozwiązanie – możesz obsłużyć duży zbiór danych, pracując na jego mniejszych kawałkach!

Będziesz korzystać z danych z pliku 'ind_pop_data.csv', dostępnego w bieżącym katalogu. Pakiety pandas i matplotlib.pyplot zostały zaimportowane odpowiednio jako pd i plt.

To ćwiczenie jest częścią kursu

Zestaw narzędzi Pythona

Zobacz kurs

Instrukcje do ćwiczenia

Zainicjalizuj pusty DataFrame data, używając pd.DataFrame().
W pętli for iteruj po urb_pop_reader, aby przetworzyć wszystkie fragmenty DataFrame w zbiorze danych.
Połącz data i df_pop_ceb, przekazując listę tych DataFrames do funkcji pd.concat().

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Initialize reader object: urb_pop_reader
urb_pop_reader = pd.read_csv('ind_pop_data.csv', chunksize=1000)

# Initialize empty DataFrame: data
data = ____

# Iterate over each DataFrame chunk
for df_urb_pop in ____:

    # Check out specific country: df_pop_ceb
    df_pop_ceb = df_urb_pop[df_urb_pop['CountryCode'] == 'CEB']

    # Zip DataFrame columns of interest: pops
    pops = zip(df_pop_ceb['Total Population'],
                df_pop_ceb['Urban population (% of total)'])

    # Turn zip object into list: pops_list
    pops_list = list(pops)

    # Use list comprehension to create new DataFrame column 'Total Urban Population'
    df_pop_ceb['Total Urban Population'] = [int(tup[0] * tup[1] * 0.01) for tup in pops_list]
    
    # Concatenate DataFrame chunk to the end of data: data
    data = ____

# Plot urban population data
data.plot(kind='scatter', x='Year', y='Total Urban Population')
plt.show()

Edytuj i uruchom kod