Correggere le incoerenze

Ora che hai identificato che dest_size ha incoerenze negli spazi e cleanliness ha incoerenze nelle maiuscole/minuscole, userai i nuovi strumenti a tua disposizione per correggere i valori incoerenti in sfo_survey invece di rimuovere del tutto i punti dati, cosa che potrebbe introdurre bias nel tuo insieme di dati se più del 5% dei punti deve essere eliminato.

dplyr e stringr sono già caricati e sfo_survey è disponibile.

Questo esercizio fa parte del corso

Pulizia dei dati in R

Visualizza il corso

Istruzioni dell'esercizio

Aggiungi a sfo_survey una colonna chiamata dest_size_trimmed che contenga i valori della colonna dest_size con tutti gli spazi iniziali e finali rimossi.
Aggiungi un'altra colonna chiamata cleanliness_lower che contenga i valori della colonna cleanliness convertiti tutti in minuscolo.
Conta il numero di occorrenze di ciascuna categoria in dest_size_trimmed.
Conta il numero di occorrenze di ciascuna categoria in cleanliness_lower.

Esercizio pratico interattivo

Prova a risolvere questo esercizio completando il codice di esempio.

# Add new columns to sfo_survey
sfo_survey <- sfo_survey %>%
  # dest_size_trimmed: dest_size without whitespace
  mutate(dest_size_trimmed = ___,
         # cleanliness_lower: cleanliness converted to lowercase
         cleanliness_lower = ___)

# Count values of dest_size_trimmed
sfo_survey %>%
  ___

# Count values of cleanliness_lower
sfo_survey %>%
  ___

Modifica ed esegui il codice

Questo esercizio fa parte del corso

Pulizia dei dati in R

IntermediárioNível de habilidade

4.8+

Inizia il corso gratis

In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Exercise 1: Data type constraints Exercise 2: Common data types Exercise 3: Converting data types Exercise 4: Trimming strings Exercise 5: Range constraints Exercise 6: Ride duration constraints Exercise 7: Back to the future Exercise 8: Uniqueness constraints Exercise 9: Full duplicates Exercise 10: Removing partial duplicates Exercise 11: Aggregating partial duplicates

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Exercise 1: Verificare l'appartenenza Exercise 2: Solo per membri Exercise 3: Non è un membro Exercise 4: Problemi con i dati categorici Exercise 5: Individuare le incoerenze Exercise 6: Correggere le incoerenze

Esercizio in corso

Exercise 7: Unire categorie Exercise 8: Pulire i dati testuali Exercise 9: Rilevare dati testuali incoerenti Exercise 10: Sostituire e rimuovere Exercise 11: Numeri di telefono non validi

In this chapter, you’ll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You’ll also gain invaluable skills that will help you verify that values have been added correctly and that missing values don’t negatively impact your analyses.

Exercise 1: Uniformity Exercise 2: Date uniformity Exercise 3: Currency uniformity Exercise 4: Cross field validation Exercise 5: Validating totals Exercise 6: Validating age Exercise 7: Completeness Exercise 8: Types of missingness Exercise 9: Visualizing missing data Exercise 10: Treating missing data

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you’ll then use your new skills to join two restaurant review datasets into one clean master dataset.

Exercise 1: Comparing strings Exercise 2: Calculating distance Exercise 3: Small distance, small difference Exercise 4: Fixing typos with string distance Exercise 5: Generating and comparing pairs Exercise 6: Link or join?Exercise 7: Pair blocking Exercise 8: Comparing pairs Exercise 9: Scoring and linking Exercise 10: Score then select or select then score?Exercise 11: Putting it together Exercise 12: Congratulations!