[论文解读] Jointly Extracting Relations with Class Ties via Effective Deep Ranking

Hai Ye, Wenhan Chao+2 more|arXiv (Cornell University)|Dec 22, 2016

Topic Modeling参考文献 20被引用 6

一句话总结

本文提出了一种统一的深度排序模型，通过利用类别关联——即关系之间的共现与逻辑蕴含——实现多个关系的联合抽取。该方法采用基于CNN的句子编码器和新颖的成对排序损失函数，在Riedel数据集上显著优于基线模型，通过有效建模关系依赖性并缓解来自'无关系'（NR）标签的类别不平衡，实现了当前最优性能。

ABSTRACT

Connections between relations in relation extraction, which we call class ties, are common. In distantly supervised scenario, one entity tuple may have multiple relation facts. Exploiting class ties between relations of one entity tuple will be promising for distantly supervised relation extraction. However, previous models are not effective or ignore to model this property. In this work, to effectively leverage class ties, we propose to make joint relation extraction with a unified model that integrates convolutional neural network (CNN) with a general pairwise ranking framework, in which three novel ranking loss functions are introduced. Additionally, an effective method is presented to relieve the severe class imbalance problem from NR (not relation) for model training. Experiments on a widely used dataset show that leveraging class ties will enhance extraction and demonstrate the effectiveness of our model to learn class ties. Our model outperforms the baselines significantly, achieving state-of-the-art performance.

研究动机与目标

• 为解决远程监督关系抽取中关系重叠的问题，即一个实体对可能具有多个有效关系。
• 利用关系之间的类关联——包括弱共现与强逻辑蕴含——以提升抽取准确率。
• 开发一种统一模型，联合预测多个关系，同时保持关系之间的依赖性。
• 缓解训练过程中由'无关系'（NR）类别引起的严重类别不平衡问题。
• 证明联合抽取结合成对排序优于独立关系抽取，能够保留关系上下文信息。

提出的方法

• 使用卷积神经网络（CNN）将句子编码为每个关系候选的稠密向量表示。
• 采用两种句子聚合方法——平均池化与基于注意力的池化——从每个实体对的多条句子中构建包裹表示。
• 引入三种新颖的成对排序损失函数，将正样本关系标签排在负样本之上，以建模标签间的依赖关系。
• 应用类别嵌入表示关系类型，并在实数空间中计算包裹表示与关系嵌入之间的相似度得分。
• 通过抑制来自NR样本的梯度传播，减轻'无关系'（NR）类别在训练中的影响，提升模型鲁棒性。
• 结合联合预测与成对排序，以保留关系之间的共现与蕴含模式。

实验结果

研究问题

• RQ1 在远程监督设置下，建模类关联的联合关系抽取是否能优于独立关系抽取？
• RQ2 不同的句子聚合策略（平均池化 vs. 注意力池化）在捕捉跨句子证据方面效果如何？
• RQ3 缓解'无关系'（NR）类别的影响在多大程度上能提升模型泛化能力与收敛性？
• RQ4 成对排序损失函数是否能有效学习到共现与蕴含等关系依赖性？
• RQ5 与独立模型相比，联合建模多个关系是否能带来更高的精确率与召回率？

主要发现

• 所提模型，特别是结合ExATT聚合方法与成对排序损失时，在top-100至top-500预测中的平均精确率达到最高，为79.0%。
• Rank + ExATT在所有top-N阈值下均优于Rank + AVE与Rank + ATT，展现出更优的泛化能力，精确率与召回率均更优。
• 减轻'无关系'（NR）类别的影响显著提升了模型性能，其中'-NR'变体收敛更平稳，最终F1值高于'+NR'基线。
• 建模类关联的联合抽取在黄金标准关系（如/location/./county_seat与/location/./contains）上得分更高，确认了关系上下文的益处。
• 当不抑制NR类别时，模型收敛更快但稳定性较差，表明NR偏差对训练动态有负面影响。
• 案例研究证实，联合抽取能保留关系依赖性，当一个关系获得证据支持时，相关关系也能被正确预测。