开始使用免费开始使用

将清洗后的抽取结果写入 Parquet

回到西雅图图书馆的数据。团队已经得到一个清洗后的借阅记录抽取结果,需要写入 Parquet 供下游工具使用,但又不想先把整个结果加载到内存中。请将惰性查询直接写入磁盘。

clean_checkouts 已预载,同时提供了导出路径 CLEAN_EXPORT_PATH

本练习是课程的一部分

使用 Polars 扩展与优化数据流水线

查看课程

练习说明

  • 直接从惰性查询将 clean_checkouts 写入 CLEAN_EXPORT_PATH
  • 将 row group 大小设置为 5,000。
  • 使用流式引擎。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Write clean_checkouts straight to disk
clean_checkouts.____(
    CLEAN_EXPORT_PATH,
    # 5,000 rows per row group
    row_group_size=____,
    # Streaming engine
    engine="____",
)

# Confirm what landed in the Parquet file
result = pl.scan_parquet(CLEAN_EXPORT_PATH).select(
    pl.len().alias("rows"),
    pl.col("checkouts").sum().alias("total_checkouts"),
).collect()
print(result)
编辑并运行代码