[论文解读] Event Detection with Relation-Aware Graph Convolutional Neural Networks

Shiyao Cui, Bowen Yu+4 more|arXiv (Cornell University)|Feb 25, 2020

Topic Modeling被引用 9

一句话总结

本文提出边缘增强图卷积网络（EE-GCN），一种新型GCN架构，通过联合建模句法结构和类型化依存关系标签，实现事件检测。通过引入边缘感知的节点更新和节点感知的边缘更新，EE-GCN捕获更丰富的语言表征，在ACE2005数据集上实现最先进性能。

ABSTRACT

Event detection (ED), a key subtask of information extraction, aims to recognize instances of specific event types in text. Previous studies on the task have verified the effectiveness of integrating syntactic dependency into graph convolutional networks. However, these methods usually ignore dependency label information, which conveys rich and useful linguistic knowledge for ED. In this paper, we propose a novel architecture named Edge-Enhanced Graph Convolution Networks (EE-GCN), which simultaneously exploits syntactic structure and typed dependency label information to perform ED. Specifically, an edge-aware node update module is designed to generate expressive word representations by aggregating syntactically-connected words through specific dependency types. Furthermore, to fully explore clues hidden in dependency edges, a node-aware edge update module is introduced, which refines the relation representations with contextual information. These two modules are complementary to each other and work in a mutual promotion way. We conduct experiments on the widely used ACE2005 dataset and the results show significant improvement over competitive baseline methods.

研究动机与目标

• 解决现有基于GCN的事件检测模型忽略类型化依存标签信息的局限性。
• 通过将句法结构和依存关系类型整合到图卷积网络中，提升事件检测性能。
• 设计一种双模块架构，实现节点与边缘表征之间的相互增强。
• 系统性地探索如何将依存标签中的语言知识融入神经事件检测。
• 在ACE2005基准数据集上实现事件检测的最先进性能。

提出的方法

• 提出一种边缘感知的节点更新模块，基于特定依存类型聚合词表征，通过关系特异性上下文增强节点级表征。
• 引入一种节点感知的边缘更新模块，通过融合邻近节点的上下文信息，优化关系表征。
• 设计一种双分支机制，使节点与边缘表征以相互促进的方式更新。
• 以句法依存树作为底层图结构，边类型作为关系标签，以提升信息传递效果。
• 采用图卷积网络在依存图上传播表征，同时保留类型化关系信息。
• 在端到端可训练框架中结合两个模块，用于事件检测。

实验结果

研究问题

• RQ1 将类型化依存标签引入基于GCN的事件检测模型是否能带来性能提升？
• RQ2 边缘感知的节点更新与节点感知的边缘更新在事件检测中如何促进更好的表征学习？
• RQ3 句法结构与关系类型信息联合使用，相较于仅使用结构信息，能在多大程度上提升事件检测性能？
• RQ4 节点与边缘表征之间的相互优化是否能生成更具表达力的特征用于事件分类？
• RQ5 所提出的EE-GCN模型与现有SOTA方法在ACE2005基准上的表现相比如何？

主要发现

• 所提出的EE-GCN模型在ACE2005数据集上显著优于竞争性基线方法。
• 通过边缘感知与节点感知模块整合类型化依存标签，使词表征与关系表征更具表达力。
• 节点与边缘更新之间的相互促进显著增强了模型捕捉复杂语言模式以支持事件检测的能力。
• 实验证明，在统一的GCN框架中联合利用句法结构与依存关系类型信息具有显著有效性。
• 实证结果证实，忽略依存标签信息会限制现有基于GCN的ED模型的表征能力。