開始使用免費開始

將清理後的擷取結果沉入 Parquet

回到西雅圖圖書館的資料。團隊已經有清理過的借閱擷取結果,想要寫成 Parquet 供後續工具使用,但不想先把整個結果在記憶體中具現。請把 lazy 查詢直接寫到磁碟。

已預先載入 clean_checkouts,以及匯出路徑 CLEAN_EXPORT_PATH

本練習屬於課程

使用 Polars 擴充與最佳化資料管線

檢視課程

練習說明

  • 直接從 lazy 查詢把 clean_checkouts 寫到 CLEAN_EXPORT_PATH
  • 將 row group 大小設為 5,000。
  • 使用串流引擎。

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Write clean_checkouts straight to disk
clean_checkouts.____(
    CLEAN_EXPORT_PATH,
    # 5,000 rows per row group
    row_group_size=____,
    # Streaming engine
    engine="____",
)

# Confirm what landed in the Parquet file
result = pl.scan_parquet(CLEAN_EXPORT_PATH).select(
    pl.len().alias("rows"),
    pl.col("checkouts").sum().alias("total_checkouts"),
).collect()
print(result)
編輯並執行程式碼