使用 fixtures 对数据管道进行单元测试
您在上一段视频中了解到,单元测试可以帮助增强对数据管道的信任,并且还能在开发过程中捕获缺陷。此练习中,您将使用 pytest 库和 assert,练习编写 fixtures 和单元测试。
下面展示了您将围绕其编写单元测试的 transform 函数,供参考。已将 pandas 导入为 pd,并已加载 pytest() 库,随时可用。
def transform(raw_data):
raw_data["tax_rate"] = raw_data["total_taxes_paid"] / raw_data["total_taxable_income"]
raw_data.set_index("industry_name", inplace=True)
return raw_data
本练习是课程的一部分
使用 Python 的 ETL 和 ELT
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Define a pytest fixture
@pytest.fixture()
____ ____():
raw_data = pd.read_csv("raw_tax_data.csv")
# Transform the raw_data, store in clean_data DataFrame, and return the variable
clean_data = ____
return ____