Testarea unitară a unui pipeline de date cu fixture-uri
Ai aflat în ultimul videoclip că testarea unitară poate contribui la creșterea încrederii în pipeline-ul de date și poate ajuta chiar la detectarea bug-urilor pe parcursul dezvoltării. În acest exercițiu, vei exersa scrierea atât de fixture-uri, cât și de teste unitare, folosind biblioteca pytest și assert.
Funcția transform în jurul căreia vei scrie teste unitare este prezentată mai jos, pentru referință. pandas a fost importat ca pd, iar biblioteca pytest() este încărcată și gata de utilizare.
def transform(raw_data):
raw_data["tax_rate"] = raw_data["total_taxes_paid"] / raw_data["total_taxable_income"]
raw_data.set_index("industry_name", inplace=True)
return raw_data
Acest exercițiu face parte din cursul
ETL și ELT în Python
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Define a pytest fixture
@pytest.fixture()
____ ____():
raw_data = pd.read_csv("raw_tax_data.csv")
# Transform the raw_data, store in clean_data DataFrame, and return the variable
clean_data = ____
return ____