[论文解读] Document-Level Event Argument Extraction by Conditional Generation

Sha Li, Heng Ji+1 more|arXiv (Cornell University)|Apr 13, 2021

Topic Modeling参考文献 25被引用 10

一句话总结

本文提出了一种基于条件生成的神经模型，用于文档级事件论元抽取，将该任务建模为使用编码器-解码器架构的模板填充问题。该方法在RAMS上实现了7.6%的F1提升，在WikiEvents上实现了5.7%的F1提升，并引入了一种零样本迁移框架，在仅使用ACE中的10种事件类型的情况下，实现了97%的触发词抽取和82%的论元抽取性能。

ABSTRACT

Event extraction has long been treated as a sentence-level task in the IE community. We argue that this setting does not match human information-seeking behavior and leads to incomplete and uninformative extraction results. We propose a document-level neural event argument extraction model by formulating the task as conditional generation following event templates. We also compile a new document-level event extraction benchmark dataset WikiEvents which includes complete event and coreference annotation. On the task of argument extraction, we achieve an absolute gain of 7.6% F1 and 5.7% F1 over the next best model on the RAMS and WikiEvents datasets respectively. On the more challenging task of informative argument extraction, which requires implicit coreference reasoning, we achieve a 9.3% F1 gain over the best baseline. To demonstrate the portability of our model, we also create the first end-to-end zero-shot event extraction framework and achieve 97% of fully supervised model's trigger extraction performance and 82% of the argument extraction performance given only access to 10 out of the 33 types on ACE.

研究动机与目标

• 为解决现有句子级事件抽取方法无法捕捉跨句子论元和指代消解的问题，提出一种文档级方法。
• 开发一种神经模型，实现端到端的论元抽取，无需依赖独立的命名实体识别或指代消解模块。
• 创建一个新的基准数据集WikiEvents，包含完整的事件和指代消解标注，用于文档级评估。
• 通过基于模板的条件生成和迁移学习，实现零样本事件抽取。
• 通过识别文档跨度中最具信息量的论元提及（而非仅最近提及），提升抽取结果的信息量。

提出的方法

• 将事件论元抽取建模为条件生成任务：给定一个文档和一个事件模板，模型生成填充了论元的模板。
• 使用序列到序列模型（如基于T5的模型），将模板与文档的拼接作为输入，逐标记生成填充后的输出。
• 直接从文档或模板中复制论元，通过复制机制追踪来源，实现端到端学习，无需外部NER或指代消解模块。
• 引入了一项新任务——‘最具信息量的论元抽取’，优先选择名词提及而非代词，并要求进行跨句子的指代消解。
• 通过将论元模型与基于关键词的触发词检测器结合，实现零样本迁移，使模型在无需微调的情况下即可推理未见过的事件类型。
• 通过模板引入外部事件本体作为条件输入，实现事件类型间的参数共享，提升模型的泛化能力。

实验结果

研究问题

• RQ1 条件生成模型是否能在文档级事件抽取任务上超越现有的句子级和跨句子论元抽取方法？
• RQ2 该模型在识别文档跨度中最具信息量的论元提及方面表现如何，特别是在论元隐含或以代词表达时？
• RQ3 在无需微调的零样本设置下，该模型对未见过的事件类型的泛化能力如何？
• RQ4 使用模板作为外部条件是否能提升模型性能和在不同事件类型间的可移植性？
• RQ5 该模型在需要复杂指代消解推理的长上下文文档上的表现如何？

主要发现

• 所提出的模型在RAMS数据集上的常规论元抽取任务中，相比次优模型实现了7.6%的绝对F1提升。
• 在WikiEvents数据集上，模型相比最强基线模型F1提升了5.7%，表明其在新文档级基准上的强大性能。
• 在更具挑战性的‘最具信息量的论元抽取’任务中，该模型相比最佳基线实现了9.3%的F1提升，该任务要求隐含的指代消解推理。
• 零样本迁移框架（将论元模型与基于关键词的触发词检测器结合）在仅使用ACE中33种事件类型中的10种的情况下，实现了完全监督模型97%的触发词抽取性能和82%的论元抽取性能。
• 仅有34.5%的论元位于与触发词相同的句子中，这凸显了进行文档级推理的必要性。
• 模型成功实现了跨句子的代词到命名实体的指代消解，例如在爆炸事件语境中，正确将‘he’链接至‘McVeigh’。