In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Data type constraints

Common data types

Numeric data or ... ?

Summing strings and concatenating numbers

Data range constraints

Tire size constraints

Back to the future

Uniqueness constraints

How big is your subset?

Finding duplicates

Treating duplicates

Common data problems

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Membership constraints

Members only

Finding consistency

Categorical variables

Categories of errors

Inconsistent categories

Remapping categories

Cleaning text data

Removing titles and taking names

Keeping it descriptive

Text and categorical data problems

In this chapter, you'll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You'll also gain invaluable skills that will help you verify that values have been added correctly, and that missing values don't negatively impact your analyses.

Uniformity

Ambiguous dates

Uniform currencies

Uniform dates

Cross field validation

Cross field or no cross field?

How's our data integrity?

Completeness

Is this missing at random?

Missing investors

Follow the money

Advanced data problems

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you'll then use your new skills to join two restaurant review datasets into one clean master dataset.

Dizgileri karşılaştırma

Asgari düzenleme mesafesi

Eşik değeri

Kategorileri yeniden eşleme II

Eşleşmeler oluşturma

Seçenekler

Kayıt eşleştirme

Normal birleştirmeler

Bağlamak mı, bağlamamak mı?

Restoran çiftleri

Benzer restoranlar

DataFrame'leri ilişkilendirme

Doğru indeksi almak

Hepsini bir araya bağlayalım!

Tebrikler!

Record linkage

Ride sharing dataset

Airlines dataset

Banking dataset

Restaurants dataset

Restaurants dataset II

Course Glossary

Veri bilimcilerin zamanlarının %80’ini veriyi temizleme ve dönüştürmeye, yalnızca %20’sini analiz etmeye harcadıkları sıkça söylenir. Temizleme için harcanan zaman kritik önemdedir; çünkü kirli veriyi analiz etmek yanlış sonuçlara yol açabilir.

Videoların sol alt köşesindeki "Show transcript" seçeneğine tıklayarak canlı dökümleri açabilirsin.
Kurs sözlüğünü sağdaki kaynaklar bölümünde bulabilirsin.
CPE kredisi almak için kursu tamamlaman ve nitelikli değerlendirmede %70 puana ulaşman gerekir. Sağ taraftaki CPE kredileri bildirimine tıklayarak değerlendirmeye gidebilirsin.

Veri temizleme, veri biliminin vazgeçilmez bir görevidir. Uygun şekilde temizlenmiş veri olmadan, herhangi bir veri analizi veya Machine Learning modeli hatalı sonuçlar verebilir. Bu kursta, Python’da basitten ileri seviyeye kadar çeşitli veri temizleme problemlerini nasıl belirleyeceğini, teşhis edeceğini ve düzelteceğini öğreneceksin. Uygun olmayan veri tipleriyle uğraşacak, verinin doğru aralıkta olup olmadığını kontrol edecek, eksik veriyi yönetecek, kayıt eşleştirme yapacak ve daha fazlasını keşfedeceksin!

<h2>Python'da Verileri Temizlemeyi Keşfedin</h2>
Veri hazırlığı çok önemlidir: Veri bilimcilerin işinin %80'i verileri temizlemek ve işlemektir. İşin yalnızca %20'si gerçekten analiz etmektir. Verilerin temizlenmesi, her veri bilimcisi için önemli bir adımdır, çünkü kirli verilerin analizi yanlış sonuçlara yol açabilir. 
<br><br>
Bu kursta, Python'da basitinden ileri düzeyine kadar çeşitli veri temizleme sorunlarını nasıl belirleyeceğinizi, teşhis edeceğinizi ve tedavi edeceğinizi öğreneceksiniz. Uygun olmayan veri türlerini ele alacak, verilerinizin doğru aralıkta olup olmadığını kontrol edecek, eksik verileri işleyecek, kayıt bağlantısı gerçekleştirecek ve daha fazlasını yapacaksınız!
<br><br>
<h2>Farklı Veri Türlerini Temizlemeyi Öğrenin</h2>
Kursun ilk bölümünde yaygın veri sorunları ve bunların nasıl çözülebileceği ele alınmaktadır. Öncelikle temel veri türlerini ve bunların her birini nasıl kullanacağınızı öğreneceksiniz. Ardından, aralık kısıtlamaları uygulayacak ve yinelenen veri noktalarını kaldıracaksınız.
<br><br>
Son bölümde, birden fazla veri setini birleştirmek için güçlü bir araç olan kayıt bağlantısı ele alınmaktadır. Dizgiler arasındaki benzerliği hesaplayarak kayıtları nasıl bağlayacağınızı öğreneceksiniz. Son olarak, yeni becerilerinizi kullanarak iki restoran yorum veri setini tek bir temiz ana veri setinde birleştireceksiniz.
<br><br>
<h2>Verileri Temizlemede Güven Kazanın</h2>
Kursun sonunda, çeşitli türdeki verileri temizleme ve kayıt bağlantısını kullanarak birden fazla veri kümesini birleştirme konusunda kendinize güven kazanacaksınız. Verileri temizlemek, veri bilimcileri için vazgeçilmez bir beceridir. Python'da veri temizleme ve uygulamaları hakkında daha fazla bilgi edinmek istiyorsanız, aşağıdaki bölümleri inceleyin: Python ile Veri Bilimcisi ve Python ile Veri İçe Aktarma ve Temizleme.

Python Toolbox

Joining Data with pandas

Bu dört saatlik kursta Python verilerini temizlemeyi öğrenin. Kayıt bağlantısı ve veri sorunları ele alınacak.

Python ile Veri Temizleme

Kirli verileri teşhis etmeyi ve tedavi etmeyi öğrenin ve ham verilerinizi doğru içgörülere dönüştürmek için gerekli becerileri geliştirin! 

Yardımcı Veri Bilimcisi  Python'da

Veri Mühendisi Python'da

Verileri İçe Aktarma ve Temizleme  Python'da

Müşteri adları ve adresleri içeren iki müşteri DataFrame'i; birinde müşteri başına benzersiz bir tanımlayıcı var, diğerinde yok.

İki basketbol DataFrame'ini birleştirme: `team_A`, `team_B` ve `time` sütunları var ve her DataFrame'de takım adlarının biçimleri farklı.

İki DataFrame'i `address` sütununu kullanarak birleştirme; her birindeki adresler biraz farklı biçimlendirilmiş.

Maç başına ortak benzersiz tanımlayıcıya sahip iki basketbol DataFrame'i.

Her DataCamp kursunun kendine ait benzersiz bir tanımlayıcısı olduğu iki DataFrame'i birleştirerek tek bir DataFrame oluşturma.

Bağlamak mı, bağlamamak mı?

Python ile Veri Temizleme

Uygulamalı etkileşimli egzersiz