Imputace chybějících hodnot
Chybějící data jsou běžnou realitou. Pokud předpokládáme, že data chybí zcela náhodně, zároveň předpokládáme, že data, která máme k dispozici, dobře reprezentují celou populaci. Pokud chybí jen několik hodnot, můžeme je buď odstranit, nebo nahradit průměrem či mediánem. V tomto cvičení se podíváme na sloupec 'PDOM': počet dní na trhu za aktuální cenu.
Toto cvičení je součástí kurzu
Feature Engineering with PySpark
Pokyny k cvičení
- Zjisti počet chybějících hodnot ve sloupci
'PDOM'pomocí funkcíwhere(),isNull()acount(). - Vypočítej průměrnou hodnotu sloupce
'PDOM'pomocí agregační funkcemean(). - Použij
fillna()s hodnotou nastavenou na průměr sloupce'PDOM'a aplikuj ji pouze na tento sloupec pomocí parametrusubset.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Count missing rows
missing = df.____(df[____].____()).____()
# Calculate the mean value
col_mean = df.____({____: ____}).____()[0][0]
# Replacing with the mean value for that column
df.____(____, ____=[____])