Veri Yüklemesini Doğrulama
Diyelim ki her ay yeni bir dosya alıyorsun. Belirli sayıda kayıt ve sütun bekliyorsun. Bu egzersizde, yüklenen dosyayı doğrulayacak bir fonksiyon oluşturacağız.
Bu egzersiz, kursun bir parçasıdır
PySpark ile Özellik Mühendisliği
Egzersiz talimatları
dfbir dataframe,num_recordskayıt sayısı venum_columnssütun sayısı olacak şekilde parametreleridf,num_recordsvenum_columnsolan bir veri doğrulama fonksiyonucheck_load()oluştur.num_recordsdeğerini kullanarak, girilen dataframedf'incount()sonucu ile aynı sayıda kayda sahip olup olmadığını kontrol et.- Girdi dataframe'inin sütun sayısını
columnsüzerindelen()kullanaraknum_columnsile karşılaştır. - Her ikisi de
TruedönerseValidation Passedyazdır
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
def ____(____, ____, ____):
# Takes a dataframe and compares record and column counts to input
# Message to return if the critera below aren't met
message = 'Validation Failed'
# Check number of records
if num_records == df.____():
# Check number of columns
if num_columns == ____(df.____):
# Success message
message = ____
return message
# Print the data validation message
print(check_load(df, 5000, 74))