[论文解读] Joint Extraction of Events and Entities within a Document Context

Bishan Yang, Tom M. Mitchell|arXiv (Cornell University)|Sep 12, 2016

Topic Modeling参考文献 19被引用 22

一句话总结

本文提出了一种联合推理框架，能够同时提取整个文档中的事件、其论元以及实体，利用事件内部结构、事件间关系以及实体抽取模型。通过利用文档级上下文和依存建模，该方法在事件抽取方面显著优于当前最先进方法，并在实体抽取方面提升了强基线模型的性能。

ABSTRACT

Events and entities are closely related; entities are often actors or participants in events and events without entities are uncommon. The interpretation of events and entities is highly contextually dependent. Existing work in information extraction typically models events separately from entities, and performs inference at the sentence level, ignoring the rest of the document. In this paper, we propose a novel approach that models the dependencies among variables of events, entities, and their relations, and performs joint inference of these variables across a document. The goal is to enable access to document-level contextual information and facilitate context-aware predictions. We demonstrate that our approach substantially outperforms the state-of-the-art methods for event extraction as well as a strong baseline for entity extraction.

研究动机与目标

• 解决流水线方法和句子级事件抽取方法忽略文档上下文且存在错误传播的问题。
• 联合建模文档中事件、其论元与实体之间的依赖关系，实现上下文感知的预测。
• 通过整合文档级话语信息与结构关系，提升事件抽取与实体抽取的性能。
• 开发一个统一框架，对事件、语义角色与实体进行联合推理，而非将它们视为独立任务。

提出的方法

• 该方法将问题分解为三个子任务：学习事件内部触发词与论元之间的依赖关系，建模文档中事件之间的共现关系，以及独立学习实体抽取。
• 采用结构化预测模型，将这三个组件整合到单一联合优化框架中，实现实时抽取。
• 将语义角色与实体类型作为事件结构的一部分进行建模，确保论元角色与实体类型之间的一致性。
• 使用概率图模型表示事件触发词、论元与实体之间的依赖关系，支持跨句子边界的联合推理。
• 引入事件类型、共现模式（例如，死亡事件与攻击事件共现）以及共指感知的实体定位特征。
• 利用文档级话语上下文解决模糊指代与长距离依赖问题，例如代词指代事件参与者。

实验结果

研究问题

• RQ1 与句子级或流水线方法相比，是否能在整个文档范围内联合建模事件与实体可显著提升抽取性能？
• RQ2 事件间共现模式与文档级一致性约束在多大程度上能提升事件抽取的准确性？
• RQ3 在低事件语境下，将事件信息整合到实体抽取中，能在多大程度上提升实体抽取的召回率与F1值？
• RQ4 联合推理是否能减少从实体标注到事件抽取的错误传播？
• RQ5 该模型在解决长距离依赖问题（如代词指代事件参与者）方面效果如何？

主要发现

• 所提方法在ACE语料库上的事件抽取任务中显著优于当前最先进系统，F1分数获得显著提升。
• 联合模型显著提升了强基线在实体抽取任务中的表现，尤其在事件信息有助于消歧实体指代时效果更明显。
• 通过利用文档上下文，该模型能有效解决长距离依赖问题，如代词指代事件参与者。
• 将事件信息整合到实体抽取中可提升召回率与F1值，尤其对作为事件论元的实体效果更显著。
• 实验表明，事件共现模式（如死亡事件与攻击事件共现）对提升事件分类与推理具有实际帮助。
• 通过联合学习实体与事件提及，而非孤立处理，该框架有效减少了错误传播。