In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Data type constraints

Common data types

Numeric data or ... ?

Summing strings and concatenating numbers

Data range constraints

Tire size constraints

Back to the future

Uniqueness constraints

How big is your subset?

Finding duplicates

Treating duplicates

Common data problems

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Lidmaatschapsbeperkingen

Opties

Lidmaatschapsbeperking

Andere beperking

Alleen voor leden

Consistentie vinden

Categorische variabelen

Witruimtes en inconsistentie

Categorieën maken of opnieuw toewijzen

Categorieën van fouten

Inconsistente categorieën

Categorieën opnieuw toewijzen

Tekstgegevens opschonen

Titels verwijderen en namen overhouden

Hou het beschrijvend

Text and categorical data problems

In this chapter, you'll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You'll also gain invaluable skills that will help you verify that values have been added correctly, and that missing values don't negatively impact your analyses.

Uniformity

Ambiguous dates

Uniform currencies

Uniform dates

Cross field validation

Cross field or no cross field?

How's our data integrity?

Completeness

Is this missing at random?

Missing investors

Follow the money

Advanced data problems

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you'll then use your new skills to join two restaurant review datasets into one clean master dataset.

Comparing strings

Minimum edit distance

The cutoff point

Remapping categories II

Generating pairs

To link or not to link?

Pairs of restaurants

Similar restaurants

Linking DataFrames

Getting the right index

Linking them together!

Congratulations!

Record linkage

Ride sharing dataset

Airlines dataset

Banking dataset

Restaurants dataset

Restaurants dataset II

Course Glossary

Er wordt vaak gezegd dat data scientists 80% van hun tijd besteden aan het opschonen en bewerken van data en slechts 20% aan het analyseren ervan. Die tijd aan opschonen is cruciaal, want analyseren van rommelige data kan tot onjuiste conclusies leiden.

De video's bevatten live-transcripts die je kunt tonen door linksonder in de video op "Show transcript" te klikken.
De verklarende woordenlijst van de cursus vind je rechts bij de bronnen.
Om CPE-credits te behalen, moet je de cursus afronden en minimaal 70% scoren op de gekwalificeerde toets. Je gaat naar de toets via de CPE-credits-callout aan de rechterkant.

Data opschonen is een essentiële taak in data science. Zonder goed opgeschoonde data kunnen de resultaten van elke data-analyse of elk Machine Learning-model onnauwkeurig zijn. In deze cursus leer je hoe je uiteenlopende opschoningsproblemen in Python herkent, diagnosticeert en aanpakt, van eenvoudig tot gevorderd. Je werkt met onjuiste datatypes, controleert of je data binnen het juiste bereik valt, gaat om met ontbrekende waarden, voert recordlinkage uit, en meer!

Python Toolbox

Joining Data with pandas

Beheers het opschonen van Python-data in deze cursus van vier uur, inclusief geavanceerde problemen.

Data opschonen in Python

Associate Data Scientist  in Python

Data-engineer in Python

Gegevens importeren en opschonen  in Python

Een `GPA`-kolom met een `Z-`-beoordeling.

Een `day_of_week`-kolom met de waarde `Suntermonday`.

Een `birthdate`-kolom met waarden in de toekomst.

Een `age`-kolom met waarden boven de `130`.

Een `revenue`-kolom die als string is weergegeven.

Alleen voor leden

Data opschonen in Python

Praktische interactieve oefening