[论文解读] Heterogeneous Supervision for Relation Extraction: A Representation Learning Approach

Liyuan Liu, Xiang Ren+5 more|arXiv (Cornell University)|Jul 1, 2017

Topic Modeling参考文献 31被引用 19

一句话总结

该论文提出了一种名为REHession的新表示学习框架，该框架在来自知识库和领域启发式规则等多样化来源的异质监督下，联合执行关系抽取与真实标签发现。通过利用上下文感知嵌入识别标注函数的高效子集，并迭代优化表示与标签，REHession在基准数据集上的表现优于当前最先进方法，展现出在处理噪声大、冲突多的监督信号时的卓越性能。

ABSTRACT

Relation extraction is a fundamental task in information extraction. Most existing methods have heavy reliance on annotations labeled by human experts, which are costly and time-consuming. To overcome this drawback, we propose a novel framework, REHession, to conduct relation extractor learning using annotations from heterogeneous information source, e.g., knowledge base and domain heuristics. These annotations, referred as heterogeneous supervision, often conflict with each other, which brings a new challenge to the original relation extraction task: how to infer the true label from noisy labels for a given instance. Identifying context information as the backbone of both relation extraction and true label discovery, we adopt embedding techniques to learn the distributed representations of context, which bridges all components with mutual enhancement in an iterative fashion. Extensive experimental results demonstrate the superiority of REHession over the state-of-the-art.

研究动机与目标

• 通过利用来自知识库和领域特定启发式规则等多源异质监督，解决关系抽取中人工标注数据成本高、稀缺的问题。
• 通过识别标注函数在不同上下文下的上下文依赖高效子集，解决来自不同来源的噪声大、不一致标签之间的冲突。
• 通过共享上下文表示实现的相互监督，联合优化关系抽取与真实标签发现。
• 通过建模不同上下文类型下标注函数的可变可靠性，克服先前真实标签发现方法中对源一致性假设的局限性。
• 通过端到端表示学习，提升低资源和领域特定关系抽取场景下的泛化能力与性能。

提出的方法

• 该框架采用分布式表示学习，将关系提及及其上下文嵌入到低维向量空间中，捕捉语义相似性，支持上下文感知分析。
• 将标注函数视为全局不可靠，但假设其在特定上下文依赖子集（高效子集）上是可靠的，通过嵌入相似性识别这些子集。
• 采用联合学习过程，通过相互监督迭代优化上下文表示、真实标签推断与关系分类。
• 基于标注函数在识别出的高效子集上的表现，计算其可靠性得分，实现对监督信号的动态加权。
• 模型采用迭代优化循环，改进的上下文表示同时增强真实标签发现与关系抽取，反之亦然。
• 该框架整合多种监督源（如知识库和启发式模式），而无需假设所有实例中可靠性一致。

实验结果

研究问题

• RQ1 如何有效利用来自知识库和领域启发式规则等多样化来源的异质监督进行关系抽取？
• RQ2 如何在不假设全局源一致性的前提下，解决噪声大、不一致标注函数之间的冲突？
• RQ3 上下文感知表示能否提升标注函数高效子集的识别能力，并增强真实标签发现？
• RQ4 与孤立训练相比，关系抽取与真实标签发现的联合学习能在多大程度上提升性能？
• RQ5 所提出的框架在低资源和领域特定关系抽取设置下是否优于当前最先进方法？

主要发现

• REHession在基准数据集上达到最先进性能，在关系抽取与关系分类任务中均显著优于现有方法。
• 与最佳基线相比，REHession在NYT数据集上的F1分数最高提升0.055，在ACE05数据集上提升0.048。
• 使用上下文感知嵌入可准确识别标注函数的高效子集，这对可靠标签推断至关重要。
• 上下文表示、真实标签发现与关系抽取之间的迭代相互增强，使模型在各数据集上均实现一致的性能提升。
• REHession在处理噪声监督时表现出强鲁棒性，即使标注函数存在不一致或部分错误，仍保持优异性能。
• 消融实验表明，上下文感知的高效性检测与联合学习是关键组件，移除任一均导致性能显著下降。