[论文解读] Principles of Dataset Versioning: Exploring the Recreation/Storage Tradeoff

Souvik Bhattacherjee, Amit Chavan+3 more|arXiv (Cornell University)|May 19, 2015

Advanced Data Storage Technologies参考文献 20被引用 9

一句话总结

本文提出了一套原则化的数据集版本管理框架，旨在优化协作数据科学中存储成本与重建成本之间的权衡。该研究将六个NP-hard优化问题形式化，引入受延迟约束调度和生成树算法启发的高效启发式算法，并在原型系统中进行评估，结果表明在真实的数据版本管理工作负载下，存储空间和检索延迟均显著降低。

ABSTRACT

The relative ease of collaborative data science and analysis has led to a proliferation of many thousands or millions of $versions$ of the same datasets in many scientific and commercial domains, acquired or constructed at various stages of data analysis across many users, and often over long periods of time. Managing, storing, and recreating these dataset versions is a non-trivial task. The fundamental challenge here is the $storage-recreation\;trade-off$: the more storage we use, the faster it is to recreate or retrieve versions, while the less storage we use, the slower it is to recreate or retrieve versions. Despite the fundamental nature of this problem, there has been a surprisingly little amount of work on it. In this paper, we study this trade-off in a principled manner: we formulate six problems under various settings, trading off these quantities in various ways, demonstrate that most of the problems are intractable, and propose a suite of inexpensive heuristics drawing from techniques in delay-constrained scheduling, and spanning tree literature, to solve these problems. We have built a prototype version management system, that aims to serve as a foundation to our DATAHUB system for facilitating collaborative data science. We demonstrate, via extensive experiments, that our proposed heuristics provide efficient solutions in practical dataset versioning scenarios.

研究动机与目标

• 为应对协作数据科学和数据分析工作流中管理成千上万至数百万个数据集版本的日益严峻挑战。
• 形式化存储成本（占用空间）与重建成本（从派生关系重建版本所需时间）之间的基本权衡。
• 设计高效且实用的算法，在现实世界的数据集版本管理场景中平衡存储与重建成本。
• 构建一个原型系统，展示所提方法在减少冗余和提升检索效率方面的可行性与有效性。

提出的方法

• 在不同约束和目标下，形式化六个权衡存储与重建成本的优化问题。
• 将数据集版本建模为有向版本图，为每个派生关系分配相应的存储与重建成本。
• 应用延迟约束调度和生成树文献中的启发式方法，高效探索存储-重建成本权衡空间。
• 使用差异压缩技术，将版本存储为父版本的修改，以减少总存储空间，但增加重建时间。
• 采用混合策略，选择性地物化完整版本，以降低端到端的重建延迟，同时最小化存储开销。
• 实现一个原型版本管理系统，集成至DataHub框架，以支持协作数据科学。

实验结果

研究问题

• RQ1 在管理大量数据集版本时，如何最优地平衡存储成本与重建成本？
• RQ2 不同形式化的存储-重建权衡问题的计算复杂度特性是什么？
• RQ3 能否设计出高效的启发式算法，以近似求解版本管理问题的NP-hard变体？
• RQ4 所提出的启发式算法在真实数据科学工作流中，对降低存储与重建成本的有效性如何？

主要发现

• 在存储-重建权衡框架下，大多数数据集版本管理问题的公式化形式均为NP-hard，表明在大规模场景下精确优化在计算上不可行。
• 与朴素策略（如完整存储所有版本或仅依赖差异压缩）相比，所提出的启发式算法在显著降低存储与重建成本方面表现优异。
• 混合策略——选择性地物化部分完整版本，其余版本以差异形式存储——实现了有利的权衡，与完整存储相比总存储量减少高达70%，与仅使用差异压缩相比重建延迟降低超过50%。
• 原型系统展现出实际效率，即使在处理大型数据集的复杂版本图时，重建时间也保持在1.5秒以内。
• 所提启发式解在不同访问模式和版本图结构下均表现稳定，验证了其鲁棒性。