[論文レビュー] PClean: Bayesian Data Cleaning at Scale with Domain-Specific Probabilistic Programming

Alexander K. Lew, Monica Agrawal+2 more|arXiv (Cornell University)|Jul 23, 2020

Data Quality and Management被引用数 4

ひとこと要約

PClean は、関係データベースの非パrametric生成モデルと、革新的な逐次モンテカルロ推論アルゴリズム、最適化された提案を生成するスマートコンパイラを組み合わせることで、スケーラブルかつ高精度なベイズデータクリーニングを可能にするドメイン特化型確率的プログラミング言語です。50行未塔の簡潔なユーザープログラムで、数百万レコードの実世界データセットにおいて、最先端の精度と速度を達成しています。

ABSTRACT

Data cleaning is naturally framed as probabilistic inference in a generative model of ground-truth data and likely errors, but the diversity of real-world error patterns and the hardness of inference make Bayesian approaches difficult to automate. We present PClean, a probabilistic programming language (PPL) for leveraging dataset-specific knowledge to automate Bayesian cleaning. Compared to general-purpose PPLs, PClean tackles a restricted problem domain, enabling three modeling and inference innovations: (1) a non-parametric model of relational database instances, which users' programs customize; (2) a novel sequential Monte Carlo inference algorithm that exploits the structure of PClean's model class; and (3) a compiler that generates near-optimal SMC proposals and blocked-Gibbs rejuvenation kernels based on the user's model and data. We show empirically that short (< 50-line) PClean programs can: be faster and more accurate than generic PPL inference on data-cleaning benchmarks; match state-of-the-art data-cleaning systems in terms of accuracy and runtime (unlike generic PPL inference in the same runtime); and scale to real-world datasets with millions of records.

研究の動機と目的

• 多様で複雑な誤りパターンを有する実世界データセットにおけるデータクリーニングの自動化という課題に取り組む。
• 一般用途の確率的プログラミング言語（PPL）が、データクリーニングタスクにおけるスケーラビリティと推論効率の面で抱える限界を克服する。
• 高水準言語を用いて、ユーザーがデータと可能性のある誤りのドメイン特化型モデルを簡潔に指定できるようにする。
• ユーザーのモデルとデータに特化した、近似的に最適な推論提案とリジェネレーションカーネルを生成するコンパイレーションパイプラインを開発する。
• 大規模データセットにおいて、高精度かつ高速な実行時間を達成し、最先端のシステムと同等またはそれを上回ることを実現する。

提案手法

• 未知のエンティティ数とその関係性を柔軟にモデル化できるように、潜在的関係データベースインスタンスの非パrametric事前分布を定義する。
• 妥当な潜在的データベースを初期化し、データ駆動型の提案を用いてサンプリングを誘導する逐次モンテカルロ（SMC）推論アルゴリズムを設計する。
• ブロック化ギブスサンプリングとパーティクルギブスを用いた、新たなリジェネレーション機構を実装し、オブジェクトレベルの状態の誤りを是正する。
• 条件付き独立性と十分統計量を活用して、ユーザー定義モデルを最適化された提案分布にコンパイルする。
• 観測値のハッシュ化を導入し、観測された属性値をインデックス化して候補ターゲットの範囲を制限することで、参照スロットの解決を高速化する。
• 離散変数と連続変数の提案を分離し、好ましい値を用いて探索空間を制約することで、ハイブリッド離散連続モデリングをサポートする。

実験結果

リサーチクエスチョン

• RQ1 ドメイン特化型PPLは、数百万レコードの実世界データセットにおいて、ベイズデータクリーニングの高精度性とスケーラビリティを両立できるか？
• RQ2 モデルに特化した提案生成によって、非パrametric関係モデルにおける推論効率をどのように向上させられるか？
• RQ3 コンパイラ生成のデータ駆動型提案戦略は、一般のPPL推論に比べて、速度と精度の面でどの程度優れているか？
• RQ4 観測値ハッシュ化や好ましい値といった技術は、大規模データクリーニングにおける計算コストをどの程度低減できるか？
• RQ5 原理的ベイズフレームワークは、判別的で最先端のデータクリーニングシステムと同等またはそれを上回る実行時間とF1スコアを達成できるか？

主な発見

• 50行未塔のPCleanプログラムは、標準的なデータクリーニングベンチマークにおいて、一般PPL推論よりも高い精度と高速な実行時間を達成している。
• PClean は、最大220万行の実世界データセットにおいて、HoloClean や Dallachiesat らの最先端のデータクリーニングシステムと同等またはそれを上回る精度と実行時間を達成している。
• 提案コンパイラは、離散変数が完全に制約されている場合には局所的に最適なSMC提案を生成し、連続変数や好ましい値が関与する場合には、部分的に最適だが効率的な提案を生成する。
• 観測値ハッシュ化により、1オブジェクトあたりの参照スロット解決コストが O(|W|) 時間まで低減され、多数の潜在的エンティティを有する大規模データセットへの効率的スケーリングを可能にしている。
• パーティクルギブスによるリジェネレーションは、提案が不十分な場合でも連続変数の受容率を著しく向上させ、収束性と精度を向上させている。
• 本システムは、実世界の数百万レコード規模のデータセットにもスケーリング可能であり、合成的または小規模なベンチマークを超えた実用的妥当性を示している。