Fazendo logging em um pipeline de dados
Neste exercício, vamos retomar a função que você escreveu em um vídeo anterior e praticar como adicionar logging à função. Isso vai ajudar ao depurar erros ou fazer ajustes na lógica!
pandas foi importado como pd. Além disso, o módulo logging foi importado e o nível de log padrão foi definido como "debug".
Este exercicio faz parte do curso
ETL e ELT em Python
Instruções do exercicio
- Crie um log no nível info após a transformação, passando a string:
"Transformed 'Order Date' column to type 'datetime'." - Registre o
.shapedo DataFrame no nível debug antes e depois do filtro.
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
def transform(raw_data):
raw_data["Order Date"] = pd.to_datetime(raw_data["Order Date"], format="%m/%d/%y %H:%M")
clean_data = raw_data.loc[raw_data["Price Each"] < 10, :]
# Create an info log regarding transformation
logging.____("Transformed 'Order Date' column to type 'datetime'.")
# Create debug-level logs for the DataFrame before and after filtering
____(f"Shape of the DataFrame before filtering: {raw_data.shape}")
____(f"Shape of the DataFrame after filtering: {clean_data.shape}")
return clean_data
clean_sales_data = transform(raw_sales_data)