在数据管道中记录日志
在本练习中,您将回顾之前视频中编写的函数,并练习为该函数添加日志记录。这有助于在排查错误或修改逻辑时更高效!
已将 pandas 以 pd 名称导入。同时已导入 logging 模块,并将默认日志级别设置为 "debug"。
本练习是课程的一部分
使用 Python 的 ETL 和 ELT
练习说明
- 在完成转换后创建一条 info 级别日志,传入字符串:
"Transformed 'Order Date' column to type 'datetime'." - 在筛选前后分别以 debug 级别记录 DataFrame 的
.shape。
交互式实操练习
通过完成这段示例代码来试试这个练习。
def transform(raw_data):
raw_data["Order Date"] = pd.to_datetime(raw_data["Order Date"], format="%m/%d/%y %H:%M")
clean_data = raw_data.loc[raw_data["Price Each"] < 10, :]
# Create an info log regarding transformation
logging.____("Transformed 'Order Date' column to type 'datetime'.")
# Create debug-level logs for the DataFrame before and after filtering
____(f"Shape of the DataFrame before filtering: {raw_data.shape}")
____(f"Shape of the DataFrame after filtering: {clean_data.shape}")
return clean_data
clean_sales_data = transform(raw_sales_data)