Запись снимка в формате Parquet
Нижестоящей панели мониторинга нужен компактный снимок активности по цифровым электронным книгам в формате Parquet. Сформируйте результат в ленивом режиме, а затем запишите его с явными настройками сжатия и размера группы строк, чтобы оптимизировать файл для быстрого чтения.
LazyFrame requests уже доступен, а путь для экспорта хранится в PARQUET_EXPORT_PATH.
Это упражнение является частью курса
Масштабирование и оптимизация конвейеров данных с Polars
Инструкции к упражнению
- Оставьте только первые 500 строк с цифровыми данными для снимка.
- Установите
compression_levelравным5при записи файла Parquet. - Установите
row_group_sizeравным250строкам.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
result = (
requests
.filter(pl.col("use") == "Digital")
.select("date", "format", "checkouts", "title")
# Keep only the first 500 rows
.____(500)
.collect()
)
result.write_parquet(
PARQUET_EXPORT_PATH,
# Set compression level to 5
compression_level=____,
# Set 250 rows per row group
row_group_size=____,
)
print(pl.read_parquet_schema(PARQUET_EXPORT_PATH))