[論文レビュー] AlphaClean: Automatic Generation of Data Cleaning Pipelines

Sanjay Krishnan, Eugene Wu|arXiv (Cornell University)|Apr 26, 2019

Data Quality and Management参考文献 44被引用数 34

ひとこと要約

AlphaCleanはデータクリーニングのハイパーパラメータ調整を、非同期の修復中心の中間表現を用いた生成-検索パイプライン最適化として再定義します。ユーザー定義の品質関数を最大化するクリーニングパイプラインを発見します。

ABSTRACT

The analyst effort in data cleaning is gradually shifting away from the design of hand-written scripts to building and tuning complex pipelines of automated data cleaning libraries. Hyper-parameter tuning for data cleaning is very different than hyper-parameter tuning for machine learning since the pipeline components and objective functions have structure that tuning algorithms can exploit. This paper proposes a framework, called AlphaClean, that rethinks parameter tuning for data cleaning pipelines. AlphaClean provides users with a rich library to define data quality measures with weighted sums of SQL aggregate queries. AlphaClean applies generate-then-search framework where each pipelined cleaning operator contributes candidate transformations to a shared pool. Asynchronously, in separate threads, a search algorithm sequences them into cleaning pipelines that maximize the user-defined quality measures. This architecture allows AlphaClean to apply a number of optimizations including incremental evaluation of the quality measures and learning dynamic pruning rules to reduce the search space. Our experiments on real and synthetic benchmarks suggest that AlphaClean finds solutions of up-to 9x higher quality than naively applying state-of-the-art parameter tuning methods, is significantly more robust to straggling data cleaning methods and redundancy in the data cleaning library, and can incorporate state-of-the-art cleaning systems such as HoloClean as cleaning operators.

研究の動機と目的

• 分析者の労力を削減するため、手作りのスクリプトを作成する代わりに、データクリーニングパイプラインを自動生成および調整します。
• 修復の共有中間表現を活用して、効率的で増分的な品質評価を可能にします。
• データ上のSQL集計として表現される柔軟でユーザー定義のデータ品質目的を許容します。
• HoloCleanなどの外部システムを含むクリーニング演算子を堅牢にアンサンブル化し、並列化してクリーニングの有効性を向上させます。

提案手法

• 各クリーニング演算子が共有プールへ候補修復を寄与する、生成-検索フレームワークを導入します。
• 修復を条件付き代入として表現し、それらを組み合わせてクリーニングパイプラインを構成します。
• 検索を誘導し増分的な保守を可能にするため、データ品質をSQL集計クエリの重み付き和として定義します。
• フレームワーク固有の修復を非同期に並列スレッドと別個の検索スレッドで実行し、品質を効率的に最大化します。
• 増分的な品質評価と学習済みの剪定ルールを用いて探索空間を縮小し探索を管理します。
• 候補パスとデータ分割全体で並行化し、リソースのバランスを取るための定期的な同期とバックプレッシャー機構を設けます。

実験結果

リサーチクエスチョン

• RQ1 修復の構造化中間表現を用いて、データクリーニングパイプラインを自動生成・調整するにはどうすればよいですか？
• RQ2 現実的なデータ負荷の下で、効率的な随時最適化を可能にする品質指標と設計は何ですか？
• RQ3 非同期の生成-検索アーキテクチャは、データクリーニング設定におけるブラックボックス型ハイパーパラメータ調整より優れることができますか？
• RQ4 剪定ルールと増分的保守は、データクリーニング最適化のスケーラビリティと堅牢性をどう改善しますか？

主な発見

• AlphaCleanは、素朴な最先端のパラメータ調整手法と比較して、データ品質を最大で9倍向上させます。
• このフレームワークは、遅延するクリーニング手法やクリーニングライブラリの冗長性に対しても頑健です。
• HoloCleanのような外部クリーニングシステムをクリーニング演算子として組み込むことができます。
• 品質指標の増分評価と学習済み剪定ルールは探索空間を著しく削減し、性能を向上させます。
• 演算子とデータ分割全体に渡る非同期・parallel探索は、スケーラブルなパイプライン生成を可能にします。