[论文解读] Document-Level Relation Extraction with Reconstruction

Xu Wang, Kehai Chen+1 more|arXiv (Cornell University)|Dec 21, 2020

Topic Modeling被引用 7

一句话总结

本文提出一种基于重建的方法，通过训练重建器在异构图中重建真实路径依赖关系，从而提升文档级关系抽取（DocRE）性能，使模型注意力聚焦于相关实体对。该方法在强基线上将F1提升1.7个百分点，并通过重建器作为关系指示器提升推理效率。

ABSTRACT

In document-level relation extraction (DocRE), graph structure is generally used to encode relation information in the input document to classify the relation category between each entity pair, and has greatly advanced the DocRE task over the past several years. However, the learned graph representation universally models relation information between all entity pairs regardless of whether there are relationships between these entity pairs. Thus, those entity pairs without relationships disperse the attention of the encoder-classifier DocRE for ones with relationships, which may further hind the improvement of DocRE. To alleviate this issue, we propose a novel encoder-classifier-reconstructor model for DocRE. The reconstructor manages to reconstruct the ground-truth path dependencies from the graph representation, to ensure that the proposed DocRE model pays more attention to encode entity pairs with relationships in the training. Furthermore, the reconstructor is regarded as a relationship indicator to assist relation classification in the inference, which can further improve the performance of DocRE model. Experimental results on a large-scale DocRE dataset show that the proposed model can significantly improve the accuracy of relation extraction on a strong heterogeneous graph-based baseline.

研究动机与目标

• 解决DocRE中图表示对所有实体对普遍编码关系（包括不存在的关系）的问题，从而稀释对真实关系的注意力。
• 通过训练重建器以重建图表示中的真实路径依赖关系，提升模型学习效果。
• 在推理阶段利用重建器作为关系指示器，进一步提升关系分类准确率。
• 证明聚焦真实路径依赖关系可提升文档级关系抽取任务的泛化能力与性能表现。

提出的方法

• 模型使用启发式规则从输入文档构建异构图，节点包括提及、实体和句子，共五类边。
• 图注意力网络（GAT）将异构图编码为图表示，以建模实体对之间的关系信息。
• 引入重建器，用于生成实体对之间路径上的节点表示，若存在真实关系则最大化路径概率，否则最小化。
• 重建器与DocRE模型端到端联合训练，以在训练过程中引导注意力聚焦于实际存在关系的实体对。
• 推理阶段，利用重建器的路径得分作为额外信号，优化关系分类决策。
• 在大规模DocRED数据集上，使用强基线的异构图模型对方法进行评估。

实验结果

研究问题

• RQ1 在文档级关系抽取模型中重建真实路径依赖关系，是否能提升对相关实体对的注意力？
• RQ2 使用重建器指导训练是否能提升文档级关系分类的性能？
• RQ3 在推理阶段，重建器能否作为有效的关系指示器以提升分类准确率？
• RQ4 重建不同类型的元路径（如MP1、MP2、MP3）时，性能表现如何变化？
• RQ5 同时重建多条元路径与仅重建单条路径相比，对模型性能有何影响？

主要发现

• 所提方法在DocRED数据集上相较强基线的异构图模型，F1得分提升1.7个百分点。
• 重建全部三条元路径（MP1、MP2、MP3）在验证集上取得最高F1得分55.66，在测试集上为54.91。
• 消融实验证实，多路径重建优于单路径重建，其中MP3（Entity-Mention-Sentence-Entity）贡献最大（占54.46%的路径）。
• 案例研究显示，+Reconstruction模型纠正了基线模型的误分类，例如正确分类了{Lark Force, Australia}之间的关系'P17'。
• 重建器通过考虑路径得分，提升了推理准确率——例如在路径得分支持下，正确将{Rabaul, Australia}分类为'NA'。
• 该模型优于近期SOTA的LSR模型，证实了基于重建的训练策略的有效性。