In this chapter, you'll learn how to overcome some of the most common dirty data problems. You'll convert data types, apply range constraints to remove future data points, and remove duplicated data points to avoid double-counting.

Data type constraints

Common data types

Numeric data or ... ?

Summing strings and concatenating numbers

Data range constraints

Tire size constraints

Back to the future

Uniqueness constraints

How big is your subset?

Finding duplicates

Treating duplicates

Common data problems

Categorical and text data can often be some of the messiest parts of a dataset due to their unstructured nature. In this chapter, you’ll learn how to fix whitespace and capitalization inconsistencies in category labels, collapse multiple categories into one, and reformat strings for consistency.

Membership constraints

Members only

Finding consistency

Categorical variables

Categories of errors

Inconsistent categories

Remapping categories

Cleaning text data

Removing titles and taking names

Keeping it descriptive

Text and categorical data problems

In this chapter, you'll dive into more advanced data cleaning problems, such as ensuring that weights are all written in kilograms instead of pounds. You'll also gain invaluable skills that will help you verify that values have been added correctly, and that missing values don't negatively impact your analyses.

Keseragaman

Tanggal ambigu

Penyamaan mata uang

Tanggal seragam

Validasi lintas bidang

Opsi

Validasi lintas kolom

Bukan validasi lintas kolom

Lintas kolom atau bukan lintas kolom?

Bagaimana integritas data kita?

Kelengkapan

Apakah ini missing at random?

Investor yang hilang

Ikuti aliran dana

Advanced data problems

Record linkage is a powerful technique used to merge multiple datasets together, used when values have typos or different spellings. In this chapter, you'll learn how to link records by calculating the similarity between strings—you'll then use your new skills to join two restaurant review datasets into one clean master dataset.

Comparing strings

Minimum edit distance

The cutoff point

Remapping categories II

Generating pairs

To link or not to link?

Pairs of restaurants

Similar restaurants

Linking DataFrames

Getting the right index

Linking them together!

Congratulations!

Record linkage

Ride sharing dataset

Airlines dataset

Banking dataset

Restaurants dataset

Restaurants dataset II

Course Glossary

Sering dikatakan bahwa data scientist menghabiskan 80% waktunya untuk membersihkan dan memanipulasi data, dan hanya 20% untuk menganalisisnya. Waktu yang digunakan untuk pembersihan sangat penting karena menganalisis data yang kotor dapat membuat Anda menarik kesimpulan yang tidak akurat.

Video dilengkapi transkrip langsung yang dapat Anda tampilkan dengan mengeklik "Show transcript" di kiri bawah video.
Glosarium kursus dapat ditemukan di sebelah kanan pada bagian sumber daya.
Untuk memperoleh kredit CPE, Anda perlu menyelesaikan kursus dan mencapai skor 70% pada asesmen terverifikasi. Anda dapat menuju ke asesmen dengan mengeklik pemberitahuan kredit CPE di sebelah kanan.

Pembersihan data merupakan tugas penting dalam data science. Tanpa data yang dibersihkan dengan benar, hasil analisis data atau model Machine Learning apa pun bisa menjadi tidak akurat. Dalam kursus ini, Anda akan mempelajari cara mengidentifikasi, mendiagnosis, dan menangani berbagai masalah pembersihan data di Python, mulai dari yang sederhana hingga tingkat lanjut. Anda akan menangani tipe data yang tidak tepat, memeriksa apakah data berada dalam rentang yang benar, mengelola data hilang, melakukan record linkage, dan banyak lagi!

Python Toolbox

Joining Data with pandas

Kuasi data Python dalam kursus 4 jam ini. Pelajari cara membersihkan masalah data umum dan lanjut.

Membersihkan Data di Python

Associate Data Scientist  dalam Python

Data Engineer dalam Python

Impor & Pembersihan Data  dalam Python

Mengonfirmasi Usia yang diberikan pengguna dengan mencocokkannya dengan tanggal lahir mereka.

Operasi per baris seperti `.sum(axis = 1)`

Memastikan kolom `subscription_date` tidak memiliki nilai yang diatur pada masa depan.

Memastikan bahwa kolom `revenue` adalah kolom numerik.

Lintas kolom atau bukan lintas kolom?

Membersihkan Data di Python

Latihan interaktif praktis