[论文解读] PClean: Bayesian Data Cleaning at Scale with Domain-Specific Probabilistic Programming

Alexander K. Lew, Monica Agrawal+2 more|arXiv (Cornell University)|Jul 23, 2020

Data Quality and Management被引用 4

一句话总结

PClean 是一种领域特定的概率编程语言，通过将关系数据库的非参数生成模型与新颖的顺序蒙特卡洛推理算法及智能编译器相结合，实现了可扩展、高精度的贝叶斯数据清洗。它使用简洁（少于50行）的用户程序，在包含数百万条记录的真实数据集上实现了最先进的准确率和速度。

ABSTRACT

Data cleaning is naturally framed as probabilistic inference in a generative model of ground-truth data and likely errors, but the diversity of real-world error patterns and the hardness of inference make Bayesian approaches difficult to automate. We present PClean, a probabilistic programming language (PPL) for leveraging dataset-specific knowledge to automate Bayesian cleaning. Compared to general-purpose PPLs, PClean tackles a restricted problem domain, enabling three modeling and inference innovations: (1) a non-parametric model of relational database instances, which users' programs customize; (2) a novel sequential Monte Carlo inference algorithm that exploits the structure of PClean's model class; and (3) a compiler that generates near-optimal SMC proposals and blocked-Gibbs rejuvenation kernels based on the user's model and data. We show empirically that short (< 50-line) PClean programs can: be faster and more accurate than generic PPL inference on data-cleaning benchmarks; match state-of-the-art data-cleaning systems in terms of accuracy and runtime (unlike generic PPL inference in the same runtime); and scale to real-world datasets with millions of records.

研究动机与目标

• 解决在具有多样化、复杂错误模式的真实数据集中自动化数据清洗的挑战。
• 克服通用概率编程语言（PPL）在数据清洗任务中可扩展性和推理效率方面的局限性。
• 使用户能够使用高级语言简洁地指定数据及其可能错误的领域特定模型。
• 开发一个编译管道，为用户模型和数据生成接近最优的推理提议和重生成核。
• 在大规模数据集上同时实现高准确率和快速运行时间，达到或超越当前最先进系统。

提出的方法

• 定义对潜在关系型数据库实例的非参数先验，以灵活建模未知数量的实体及其关系。
• 设计一种顺序蒙特卡洛（SMC）推理算法，通过初始化合理的潜在数据库，并使用数据驱动的提议引导采样。
• 通过分块吉布斯采样和粒子吉布斯采样实现新颖的重生成机制，以纠正对象级状态中的错误。
• 通过利用条件独立性和充分统计量，将用户定义的模型编译为优化的提议分布。
• 引入观测哈希技术，通过索引观测到的属性值并限制候选目标，加速引用槽位的解析。
• 通过分离离散与连续变量的提议，并使用优选值约束搜索空间，支持混合离散-连续建模。

实验结果

研究问题

• RQ1 领域特定的 PPL 是否能在包含数百万条记录的真实数据集上，同时实现高准确率和可扩展性？
• RQ2 如何通过模型感知的提议生成，提升非参数关系模型中的推理效率？
• RQ3 编译器生成的数据驱动提议策略在速度和准确率方面，能否显著优于通用 PPL 推理？
• RQ4 观测哈希和优选值等技术在大规模数据清洗中如何降低计算成本？
• RQ5 基于原则的贝叶斯框架是否能在运行时间和 F1 分数上与判别式、最先进的数据清洗系统相媲美或超越？

主要发现

• PClean 程序少于 50 行即可在标准数据清洗基准上实现比通用 PPL 推理更高的准确率和更快的运行时间。
• PClean 在真实数据集（最多 220 万行）上的准确率和运行时间与最先进的数据清洗系统（如 HoloClean、Dallachiesat 等）相当或更优。
• 当离散变量完全受约束时，提议编译器可生成局部最优的 SMC 提议；当涉及连续变量或优选值时，可生成次优但高效的提议。
• 观测哈希将引用槽位解析的成本降低至每对象 O(|W|) 时间，使系统能够高效扩展至包含大量潜在实体的大规模数据集。
• 粒子吉布斯重生成显著提高了在提议质量较差时连续变量的接受率，从而提升收敛性和准确率。
• 该系统可扩展至包含数百万条记录的真实数据集，证明了其在真实场景中的实用性，而不仅限于合成或小规模基准测试。