[论文解读] A Bayesian Approach to Discovering Truth from Conflicting Sources for Data Integration

Bo Zhao, Benjamin I. P. Rubinstein+2 more|arXiv (Cornell University)|Mar 1, 2012

Mobile Crowdsensing and Crowdsourcing参考文献 13被引用 6

一句话总结

该论文提出了一种贝叶斯潜在真实值模型，通过分别建模假阳性和假阴性，联合推断真实实体值和源质量，从而在多值属性场景下实现准确的真实值发现。该方法采用折叠吉布斯采样实现高效、线性的推理，并在真实世界数据集上优于最先进方法。

ABSTRACT

In practical data integration systems, it is common for the data sources being integrated to provide conflicting information about the same entity. Consequently, a major challenge for data integration is to derive the most complete and accurate integrated records from diverse and sometimes conflicting sources. We term this challenge the truth finding problem. We observe that some sources are generally more reliable than others, and therefore a good model of source quality is the key to solving the truth finding problem. In this work, we propose a probabilistic graphical model that can automatically infer true records and source quality without any supervision. In contrast to previous methods, our principled approach leverages a generative process of two types of errors (false positive and false negative) by modeling two different aspects of source quality. In so doing, ours is also the first approach designed to merge multi-valued attribute types. Our method is scalable, due to an efficient sampling-based inference algorithm that needs very few iterations in practice and enjoys linear time complexity, with an even faster incremental variant. Experiments on two real world datasets show that our new method outperforms existing state-of-the-art approaches to the truth finding problem.

研究动机与目标

• 解决在数据集成中，多个冲突源对同一实体提供不一致信息的真实值发现问题。
• 将源质量建模为两个独立方面——误报率（FP）和漏报率（FN），而非单一的可靠性评分。
• 支持真实值推断中的多值属性（例如，多个作者或演员），而现有方法无法有效处理此类情况。
• 开发一种可扩展、基于原理的推理算法，无需监督即可联合学习真实值和源质量。
• 支持流数据工作负载中的增量式和在线真实值发现。

提出的方法

• 提出一种具有潜在真实值变量的概率图模型，用于表示实体的真实值。
• 通过两个独立参数建模源质量：误报率（FP）和漏报率（FN），以捕捉不同类型的错误。
• 采用生成过程，其中观测到的声明由真实值以由FP和FN定义的错误概率生成。
• 采用折叠吉布斯采样进行高效推理，通过边缘化潜在真实值变量实现线性时间复杂度。
• 通过重用先前采样并仅更新受影响组件，支持增量推理，实现在线部署。
• 在贝叶斯框架中通过共轭先验引入关于真实值分布或源质量的先验知识。

实验结果

研究问题

• RQ1 贝叶斯模型能否在无监督条件下联合推断真实实体值和源质量？
• RQ2 将误报和漏报作为独立的源质量维度建模，是否能提升真实值发现的准确性，尤其是在多值属性场景下？
• RQ3 所提方法能否在大规模数据集上实现高效扩展并实现快速收敛？
• RQ4 与最先进的真实值发现方法相比，该方法在真实世界数据上的表现如何？
• RQ5 该模型能否支持流数据场景下的增量真实值发现？

主要发现

• 在两个真实世界数据集上，所提方法在F1分数和准确率方面均优于现有最先进的真实值发现方法。
• 该模型在数据规模上实现线性时间复杂度，且在实际应用中仅需极少迭代即可收敛。
• 推理算法的增量变体显著快于批量推理，同时保持相近的准确率。
• 该模型成功识别出误报率或漏报率较高的源，验证了双面质量建模方法的有效性。
• 该方法自然支持多值属性（如多个作者或演员），而以往方法无法处理此类情况。
• 实证结果证实，将误报和漏报分别处理可带来比单参数源质量模型更准确的真实值推断。