Volledige duplicaten

Je hebt bericht gekregen dat de datapijplijn voor deelfietsen is bijgewerkt om efficiënter te worden, maar dat er daardoor waarschijnlijk vaker duplicaten ontstaan. Om ervoor te zorgen dat je dezelfde scripts kunt blijven gebruiken voor je wekelijkse analyses van ritstatistieken, moet je er eerst voor zorgen dat alle duplicaten in de gegevensset worden verwijderd.

Wanneer meerdere rijen in een data frame dezelfde waarden hebben voor alle kolommen, zijn het volledige duplicaten van elkaar. Zulke duplicaten verwijderen is belangrijk, omdat het herhalen van dezelfde waarde de samenvattingsstatistieken zoals het gemiddelde en de mediaan kan vertekenen. Elke rit, inclusief de ride_id, moet uniek zijn.

dplyr is geladen en bike_share_rides is beschikbaar.

Deze oefening maakt deel uit van de cursus

Data opschonen in R

Cursus bekijken

Oefeninstructies

Bepaal het totaal aantal volledige duplicaten in bike_share_rides.
Verwijder alle volledige duplicaten uit bike_share_rides en sla het nieuwe data frame op als bike_share_rides_unique.
Bepaal het totaal aantal volledige duplicaten in het nieuwe data frame bike_share_rides_unique.

Praktische interactieve oefening

Probeer deze oefening eens door deze voorbeeldcode in te vullen.

# Count the number of full duplicates
___

# Remove duplicates
bike_share_rides_unique <- ___

# Count the full duplicates in bike_share_rides_unique
___

Code bewerken en uitvoeren

Deze oefening maakt deel uit van de cursus

Data opschonen in R

SkillTag.level.intermediateSkillTag.label

4.8+

Begin de cursus gratis

In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Exercise 1: Beperkingen op gegevenstypen Exercise 2: Veelvoorkomende gegevenstypen Exercise 3: Gegevenstypen omzetten Exercise 4: Strings bijsnijden Exercise 5: Bereikbeperkingen Exercise 6: Beperkingen voor ritduur Exercise 7: Terug naar de toekomst Exercise 8: Uniciteitsbeperkingen Exercise 9: Volledige duplicaten

Huidige oefening

Exercise 10: Gedeeltelijke duplicaten verwijderen Exercise 11: Gedeeltelijke duplicaten aggregeren

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Exercise 1: Checking membership Exercise 2: Members only Exercise 3: Not a member Exercise 4: Categorical data problems Exercise 5: Identifying inconsistency Exercise 6: Correcting inconsistency Exercise 7: Collapsing categories Exercise 8: Cleaning text data Exercise 9: Detecting inconsistent text data Exercise 10: Replacing and removing Exercise 11: Invalid phone numbers

In this chapter, you’ll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You’ll also gain invaluable skills that will help you verify that values have been added correctly and that missing values don’t negatively impact your analyses.

Exercise 1: Uniformity Exercise 2: Date uniformity Exercise 3: Currency uniformity Exercise 4: Cross field validation Exercise 5: Validating totals Exercise 6: Validating age Exercise 7: Completeness Exercise 8: Types of missingness Exercise 9: Visualizing missing data Exercise 10: Treating missing data

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you’ll then use your new skills to join two restaurant review datasets into one clean master dataset.

Exercise 1: Comparing strings Exercise 2: Calculating distance Exercise 3: Small distance, small difference Exercise 4: Fixing typos with string distance Exercise 5: Generating and comparing pairs Exercise 6: Link or join?Exercise 7: Pair blocking Exercise 8: Comparing pairs Exercise 9: Scoring and linking Exercise 10: Score then select or select then score?Exercise 11: Putting it together Exercise 12: Congratulations!