Hou het beschrijvend

Om de ervaringen van reizigers op San Francisco Airport beter te begrijpen, heeft de kwaliteitsafdeling een kwalitatieve vragenlijst gestuurd naar alle reizigers die de luchthaven de laagste score in alle categorieën gaven. Het doel van deze vragenlijst is om terugkerende patronen te vinden in wat reizigers over de luchthaven zeggen.

Hun antwoord staat in de kolom survey_response. Bij nader inzien merkte je dat een paar antwoorden de kortst mogelijke hoeveelheid tekens bevatten en weinig inhoud hebben. In deze oefening isoleer je de antwoorden met een tekenaantal hoger dan 40 en zorg je ervoor dat je nieuwe DataFrame alleen reacties bevat met 40 tekens of meer met behulp van een assert-instructie.

De DataFrame airlines staat in je omgeving en pandas is geïmporteerd als pd.

Deze oefening maakt deel uit van de cursus

Data opschonen in Python

Cursus bekijken

Oefeninstructies

Gebruik de DataFrame airlines en sla de lengte van elke waarde in de kolom survey_response op in resp_length met .str.len().
Isoleer de rijen van airlines waarvoor resp_length groter is dan 40.
Controleer met assert dat de kleinste survey_response-lengte in airlines_survey nu groter is dan 40.

Praktische interactieve oefening

Probeer deze oefening eens door deze voorbeeldcode in te vullen.

# Store length of each row in survey_response column
resp_length = ____

# Find rows in airlines where resp_length > 40
airlines_survey = airlines[____ > ____]

# Assert minimum survey_response length is > 40
assert ____.str.len().____ > _____

# Print new survey_response column
print(airlines_survey['survey_response'])

Code bewerken en uitvoeren

Deze oefening maakt deel uit van de cursus

Data opschonen in Python

SkillTag.level.intermediateSkillTag.label

4.8+

Begin de cursus gratis

In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Exercise 1: Data type constraints Exercise 2: Common data types Exercise 3: Numeric data or ... ?Exercise 4: Summing strings and concatenating numbers Exercise 5: Data range constraints Exercise 6: Tire size constraints Exercise 7: Back to the future Exercise 8: Uniqueness constraints Exercise 9: How big is your subset?Exercise 10: Finding duplicates Exercise 11: Treating duplicates

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Exercise 1: Lidmaatschapsbeperkingen Exercise 2: Alleen voor leden Exercise 3: Consistentie vinden Exercise 4: Categorische variabelen Exercise 5: Categorieën van fouten Exercise 6: Inconsistente categorieën Exercise 7: Categorieën opnieuw toewijzen Exercise 8: Tekstgegevens opschonen Exercise 9: Titels verwijderen en namen overhouden Exercise 10: Hou het beschrijvend

Huidige oefening

In this chapter, you'll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You'll also gain invaluable skills that will help you verify that values have been added correctly, and that missing values don't negatively impact your analyses.

Exercise 1: Uniformity Exercise 2: Ambiguous dates Exercise 3: Uniform currencies Exercise 4: Uniform dates Exercise 5: Cross field validation Exercise 6: Cross field or no cross field?Exercise 7: How's our data integrity?Exercise 8: Completeness Exercise 9: Is this missing at random?Exercise 10: Missing investors Exercise 11: Follow the money

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you'll then use your new skills to join two restaurant review datasets into one clean master dataset.

Exercise 1: Comparing strings Exercise 2: Minimum edit distance Exercise 3: The cutoff point Exercise 4: Remapping categories II Exercise 5: Generating pairs Exercise 6: To link or not to link?Exercise 7: Pairs of restaurants Exercise 8: Similar restaurants Exercise 9: Linking DataFrames Exercise 10: Getting the right index Exercise 11: Linking them together!Exercise 12: Congratulations!