[论文解读] Unsupervised Ranking Model for Entity Coreference Resolution

Xuezhe Ma, Zhengzhong Liu+1 more|arXiv (Cornell University)|Mar 15, 2016

Topic Modeling参考文献 32被引用 8

一句话总结

该论文通过引入用于基于语言特征区分先行词解析策略的解析模式变量，首次提出了一个无监督生成式共指消解模型。在CoNLL-2012英文基准上，该模型取得了58.44%的F1分数，相比斯坦福确定性系统高出3.01个百分点，并缩小了与监督式最先进系统之间的差距。

ABSTRACT

Coreference resolution is one of the first stages in deep language understanding and its importance has been well recognized in the natural language processing community. In this paper, we propose a generative, unsupervised ranking model for entity coreference resolution by introducing resolution mode variables. Our unsupervised system achieves 58.44% F1 score of the CoNLL metric on the English data from the CoNLL-2012 shared task (Pradhan et al., 2012), outperforming the Stanford deterministic system (Lee et al., 2013) by 3.01%.

研究动机与目标

• 开发一种无需人工标注训练数据的无监督共指消解系统。
• 弥合无监督与监督式共指消解系统之间的性能差距。
• 探索在无监督生成框架中应用此前在监督设置下表现成功的排名模型的可行性。
• 在无需人工标注标签的前提下，通过语言特征与生成建模提升共指消解的准确性。

提出的方法

• 为每个提及引入解析模式变量，以建模不同的先行词解析策略（例如基于提及类型、性别、数、可动性、语义类别和距离）。
• 提出一种生成式排名模型，通过将联合概率分解为 P(D,C) = ∏P(m_j|m_{c_j}) × ∏P(c_j|j)，实现在每个提及上的独立推理。
• 使用一组语言学特征（包括提及类型、性别、数、可动性、语义类别和提及距离）进行先行词评分。
• 采用类似EM的推理过程，利用排名模型估计每个提及最可能的先行词。
• 采用提及检测规则，保留所有格短语、量化名词短语和零限定名词短语，同时剔除冗余的‘it’等无意义提及。
• 在Gigaword语料库的APW和NYT部分（1994–2010）上训练模型，并使用CoNLL-2012数据进行评估。

实验结果

研究问题

• RQ1 无监督生成式排名模型是否能在不使用任何标注训练数据的情况下，实现具有竞争力的共指消解性能？
• RQ2 解析模式变量在建模不同类型提及的先行词选择方面有何改进作用？
• RQ3 无监督排名模型在多大程度上能够缩小与监督式共指消解系统之间的性能差距？
• RQ4 整合多种语言学特征（如性别、数、语义类别）是否能提升无监督共指消解的准确性？

主要发现

• 所提出的无监督排名模型在CoNLL-2012测试集上取得了58.44%的CoNLL F1分数，相比斯坦福确定性系统高出3.01个百分点。
• 在开发集和测试集上，该模型分别较斯坦福系统提升2.93%和3.01%的CoNLL F1分数。
• 在开发集和测试集上，分别较Multigraph无监督系统提升1.41%和1.77%。
• 在开发集和测试集上，分别较MIR无监督系统提升2.62%和3.02%的CoNLL F1分数。
• 该系统在CoNLL F1上比监督式IMS系统高出1.02个百分点，表明其相对于最先进监督模型具有强劲表现。
• 该模型在性能上与潜在树模型相当，并显著缩小了与评估中列出的其他监督式系统之间的差距。