Verificar la carga de datos
Imagina que cada mes recibes un archivo nuevo. Sabes que debes esperar un cierto número de registros y columnas. En este ejercicio crearemos una función que valide el archivo cargado.
Este ejercicio forma parte del curso
Ingeniería de características con PySpark
Instrucciones del ejercicio
- Crea una función de validación de datos
check_load()con los parámetrosdf(un dataframe),num_records(número de registros) ynum_columns(número de columnas). - Usando
num_records, crea una comprobación para ver si el dataframe de entradadftiene la misma cantidad concount(). - Compara el número de columnas que tiene el dataframe de entrada con
num_columnsusandolen()sobrecolumns. - Si ambas comprobaciones devuelven
True, imprimeValidation Passed
ejercicio interactivo práctico
Prueba este ejercicio completando este código de ejemplo.
def ____(____, ____, ____):
# Takes a dataframe and compares record and column counts to input
# Message to return if the critera below aren't met
message = 'Validation Failed'
# Check number of records
if num_records == df.____():
# Check number of columns
if num_columns == ____(df.____):
# Success message
message = ____
return message
# Print the data validation message
print(check_load(df, 5000, 74))