[论文解读] A Hierarchical Distance-dependent Bayesian Model for Event Coreference Resolution

Bishan Yang, Claire Cardie+1 more|arXiv (Cornell University)|Apr 22, 2015

Topic Modeling参考文献 33被引用 8

一句话总结

本文提出了一种分层距离依赖贝叶斯模型，将监督式、特征丰富的成对距离函数作为先验，整合进非参数聚类框架中，用于事件共指消解。通过利用可学习嵌入和语言学特征建模提及相似性，并使用分层DDCRP在文档内及跨文档聚类事件，该模型在ECB+语料库上实现了最先进性能，优于所有无监督和有监督基线模型。

ABSTRACT

We present a novel hierarchical distance-dependent Bayesian model for event coreference resolution. While existing generative models for event coreference resolution are completely unsupervised, our model allows for the incorporation of pairwise distances between event mentions -- information that is widely used in supervised coreference models to guide the generative clustering processing for better event clustering both within and across documents. We model the distances between event mentions using a feature-rich learnable distance function and encode them as Bayesian priors for nonparametric clustering. Experiments on the ECB+ corpus show that our model outperforms state-of-the-art methods for both within- and cross-document event coreference resolution.

研究动机与目标

• 为解决纯无监督或基于启发式规则的共指消解模型的局限性，将有监督、特征丰富的距离信号整合进生成式聚类框架中。
• 实现事件提及在文档内及跨多篇文档的概率性分层聚类。
• 通过引入具有分层结构的距离依赖中国餐馆过程，建模事件提及之间的语义与结构依赖关系，以提升共指消解性能。
• 证明将判别式成对相似性与生成式聚类相结合，可在跨文档事件共指消解任务中取得更优性能。

提出的方法

• 通过引入可学习、特征丰富的距离函数作为聚类决策的先验，扩展了距离依赖中国餐馆过程（DDCRP）。
• 采用分层结构，其中事件提及在文档内聚类，且文档内的聚类进一步在跨文档层面进行分组。
• 利用头词嵌入、上下文词相似度、SRL论元和参与者信息等特征建模成对提及相似性，权重通过标注数据学习得到。
• 采用贝叶斯推断联合估计事件聚类和相似性参数，实现不确定性感知的聚类。
• 使用分层DDCRP（hddcrp）建模跨文档依赖关系，先验由成对距离提供，以指导聚类形成。
• 该框架在统一的生成式概率设定下，支持文档内和跨文档的共指消解。

实验结果

研究问题

• RQ1 将可学习的判别式成对距离特征整合进非参数贝叶斯聚类模型，能否提升事件共指消解性能？
• RQ2 对文档间聚类进行分层建模，对跨文档事件共指消解性能有何影响？
• RQ3 将生成式聚类与判别式相似性建模相结合，是否优于纯无监督或确定性方法？
• RQ4 语言学特征（如SRL论元和词嵌入）在多大程度上促进准确的共指预测？

主要发现

• 所提出的hddcrp模型在ECB+语料库上实现了最先进性能，无论在文档内还是跨文档共指消解任务中，均优于层次聚类基线和无监督hdp-lex模型。
• 模型显著提升了文档内F1（WD CoNLL F1）和跨文档F1（CD CoNLL F1），更高的B3 F1分数表明聚类质量更优。
• 学习到的特征权重显示，头词嵌入相似性（权重=4.5）和字符串匹配（权重=2.77）是对共指决策最具预测力的特征。
• 模型能正确将语义相似的提及（如'unveiled'和'announced'）归为同一类，而这一能力在层次聚类和无监督模型中均未体现。
• 模型性能对事件抽取和论元链接中的错误较为敏感，尤其在涉及时间与空间指代、需世界知识支持的任务中。
• 分层结构通过使跨文档信号影响文档内决策，提升了聚类性能，如hddcrp在WD CoNLL F1上优于ddcrp和hddcrp*。