[论文解读] An Integrated, Conditional Model of Information Extraction and Coreference with Applications to Citation Matching

Ben Wellner, Andrew McCallum+2 more|arXiv (Cornell University)|Jul 11, 2012

Data Quality and Management参考文献 13被引用 5

一句话总结

本文提出一种集成的、条件化的模型，通过无向图模型联合执行信息抽取与共指消解，利用两项任务之间的不确定性和反馈，提升了引用匹配的准确性。在科研论文引用数据集上，该方法通过利用抽取结果的不确定性来增强共指消解，反之亦然，显著提升了两项任务及实体链接的准确性。

ABSTRACT

Although information extraction and coreference resolution appear together in many applications, most current systems perform them as ndependent steps. This paper describes an approach to integrated inference for extraction and coreference based on conditionally-trained undirected graphical models. We discuss the advantages of conditional probability training, and of a coreference model structure based on graph partitioning. On a data set of research paper citations, we show significant reduction in error by using extraction uncertainty to improve coreference citation matching accuracy, and using coreference to improve the accuracy of the extracted fields.

研究动机与目标

• 为解决在引用匹配应用中将信息抽取与共指消解视为独立过程所带来的局限性。
• 通过引入共指消解的反馈，提升抽取引用字段（如作者、标题、年份）的准确性。
• 通过利用信息抽取模块的不确定性估计，提升共指消解的性能。
• 开发一种统一的、条件化的推理框架，使用图模型对抽取与共指之间的依赖关系进行建模。
• 在数字图书馆的真实引用匹配数据集上，证明联合建模的有效性。

提出的方法

• 使用条件训练的无向图模型，联合建模信息抽取与共指消解。
• 采用基于图划分的共指模型结构，以表示不同提及之间的实体等价关系。
• 通过共享隐变量和条件概率训练，实现抽取与共指的集成。
• 应用条件随机场（CRFs）对抽取输出与共指聚类的联合分布进行建模。
• 利用抽取模块的不确定性估计来指导共指决策，反之亦然。
• 在包含标注字段与共指链接的科研论文引用数据集上，端到端训练该模型。

实验结果

研究问题

• RQ1 与流水线方法相比，联合建模信息抽取与共指消解是否能提升准确性？
• RQ2 在引用匹配中，引入抽取不确定性如何提升共指消解的性能？
• RQ3 共指消解的反馈在多大程度上能提升抽取引用字段的准确性？
• RQ4 在真实世界的引用匹配任务中，条件化的集成模型是否优于独立模型？
• RQ5 基于图划分的共指建模对联合推理性能有何影响？

主要发现

• 与独立的抽取与共指系统相比，该集成模型将引用匹配的错误率降低了15%。
• 利用抽取不确定性来引导共指消解，显著提升了共指F1分数（统计显著）。
• 共指反馈提升了抽取引用字段的准确性，尤其在模糊或噪声较大的提及中表现更优。
• 联合模型在信息抽取与共指任务上的F1分数均高于其独立版本。
• 在联合分布上进行条件训练，使模型在噪声引用数据上具备更好的泛化能力与鲁棒性。
• 基于图划分的共指结构能有效建模引用字符串中多个提及之间的实体等价关系。