[论文解读] AlphaClean: Automatic Generation of Data Cleaning Pipelines

Sanjay Krishnan, Eugene Wu|arXiv (Cornell University)|Apr 26, 2019

Data Quality and Management参考文献 44被引用 34

一句话总结

AlphaClean 将数据清洗超参数调优重新表述为一个 generate-then-search 流水线优化，使用异步、以修复为中心的中间表示。它发现最大化用户定义质量函数的清洗流水线。

ABSTRACT

The analyst effort in data cleaning is gradually shifting away from the design of hand-written scripts to building and tuning complex pipelines of automated data cleaning libraries. Hyper-parameter tuning for data cleaning is very different than hyper-parameter tuning for machine learning since the pipeline components and objective functions have structure that tuning algorithms can exploit. This paper proposes a framework, called AlphaClean, that rethinks parameter tuning for data cleaning pipelines. AlphaClean provides users with a rich library to define data quality measures with weighted sums of SQL aggregate queries. AlphaClean applies generate-then-search framework where each pipelined cleaning operator contributes candidate transformations to a shared pool. Asynchronously, in separate threads, a search algorithm sequences them into cleaning pipelines that maximize the user-defined quality measures. This architecture allows AlphaClean to apply a number of optimizations including incremental evaluation of the quality measures and learning dynamic pruning rules to reduce the search space. Our experiments on real and synthetic benchmarks suggest that AlphaClean finds solutions of up-to 9x higher quality than naively applying state-of-the-art parameter tuning methods, is significantly more robust to straggling data cleaning methods and redundancy in the data cleaning library, and can incorporate state-of-the-art cleaning systems such as HoloClean as cleaning operators.

研究动机与目标

• 通过自动生成和调优数据清洗流水线来减少分析师的工作量，而非手工编写脚本。
• 利用修复的共享中间表示以实现高效的增量质量评估。
• 允许灵活的、用户定义的数据质量目标，以数据上的 SQL 聚合表达。
• 鲁棒地对清洗算子进行集成和并行化，包括外部系统如 HoloClean，以提高清洗效果。

提出的方法

• 引入一个 generate-then-search 框架，其中每个清洗算子向共享池贡献候选修复。
• 将修复表示为条件赋值并将它们组合以形成清洗流水线。
• 将数据质量定义为 SQL 聚合查询的加权和，以引导搜索并实现增量维护。
• 异步在并行线程中运行框架特定的修复，并在单独的搜索线程中执行，以高效地最大化质量。
• 使用增量质量评估和学习到的剪枝规则来缩小搜索空间并管理探索。
• 在候选路径和数据分区之间实现并行化，定期进行同步并使用回压机制平衡资源。

实验结果

研究问题

• RQ1 如何使用结构化的修复中间表示自动生成并调优数据清洗流水线？
• RQ2 在现实数据负载下，哪些质量度量和体系结构设计能够实现对清洗流水线的高效、随时可优化？
• RQ3 在数据清洗场景中，异步的 generate-then-search 架构能否超越黑箱超参数调优？
• RQ4 剪枝规则和增量维护如何提升数据清洗优化的可扩展性和鲁棒性？

主要发现

• AlphaClean 相较于天真前沿参数调优方法，在数据质量方面最高可达到 9 倍。
• 该框架对拖后腿的清洗方法和清洗库中的冗余具有鲁棒性。
• 它可以将外部清洗系统如 HoloClean 作为清洗算子纳入。
• 对质量度量的增量评估和学习到的剪枝规则显著减少搜索空间并提升性能。
• 跨算子和数据分区的异步、并行化探索实现了可扩展的流水线生成。