[论文解读] Logician: A Unified End-to-End Neural Approach for Open-Domain Information Extraction

Mingming Sun, Xu Li+4 more|arXiv (Cornell University)|Apr 29, 2019

Topic Modeling参考文献 48被引用 10

一句话总结

本文提出 Logician，一种用于开放域信息抽取的统一端到端神经网络模型，通过一种新颖的知识表达格式 SAOKE 将句子转换为事实。该模型在目前最大规模的公开可用人工标注 OIE 数据集（48,248 个句子）上进行训练，通过注意力机制和覆盖机制联合优化多个事实，显著优于当前最先进方法，在各类 OIE 任务中均表现出优越性能。

ABSTRACT

In this paper, we consider the problem of open information extraction (OIE) for extracting entity and relation level intermediate structures from sentences in open-domain. We focus on four types of valuable intermediate structures (Relation, Attribute, Description, and Concept), and propose a unified knowledge expression form, SAOKE, to express them. We publicly release a data set which contains more than forty thousand sentences and the corresponding facts in the SAOKE format labeled by crowd-sourcing. To our knowledge, this is the largest publicly available human labeled data set for open information extraction tasks. Using this labeled SAOKE data set, we train an end-to-end neural model using the sequenceto-sequence paradigm, called Logician, to transform sentences into facts. For each sentence, different to existing algorithms which generally focus on extracting each single fact without concerning other possible facts, Logician performs a global optimization over all possible involved facts, in which facts not only compete with each other to attract the attention of words, but also cooperate to share words. An experimental study on various types of open domain relation extraction tasks reveals the consistent superiority of Logician to other states-of-the-art algorithms. The experiments verify the reasonableness of SAOKE format, the valuableness of SAOKE data set, the effectiveness of the proposed Logician model, and the feasibility of the methodology to apply end-to-end learning paradigm on supervised data sets for the challenging tasks of open information extraction.

研究动机与目标

• 解决开放域文本中多样化的实体-关系中间结构缺乏统一监督式抽取方法的问题。
• 设计一种知识表达格式（SAOKE），统一表示四类事实：关系、属性、描述和概念。
• 创建并发布目前最大规模的公开可用中文人工标注数据集，用于开放信息抽取的 SAOKE 格式。
• 开发一种端到端神经网络模型 Logician，对句子中所有可能的事实进行全局优化。
• 证明端到端深度学习在开放域信息抽取中的可行性和有效性。

提出的方法

• 提出 SAOKE（符号辅助开放知识表达）作为统一格式，使用自然语言词汇表示四类事实：关系、属性、描述和概念。
• 引入一个大规模人工标注数据集，包含 48,248 个中文句子及其对应的 SAOKE 事实，并公开用于研究。
• 开发 Logician，一种基于注意力机制的序列到序列神经网络模型，结合受限复制机制和覆盖机制，以确保事实表达的字面真实性，并减少漏提和过提。
• 采用全局优化策略，使事实在解码过程中竞争词元注意力，同时通过共享词元实现协作。
• 在 SAOKE 数据集上端到端地训练 Logician，采用监督学习，避免启发式模式生成或自监督噪声。
• 利用符号组件准确表达事实中缺失或隐藏的信息，提升精确度。

实验结果

研究问题

• RQ1 统一的知识表达格式能否有效表示开放域文本中多样化的实体-关系事实？
• RQ2 在大规模人工标注数据集上训练的端到端神经网络模型是否优于现有的基于模式或自监督的 OIE 系统？
• RQ3 在句子内对多个事实进行全局优化，是否能提升抽取准确率，相比逐个事实抽取？
• RQ4 SAOKE 格式是否适合支持需要结构化、基于自然语言知识的下游 NLP 任务？
• RQ5 所提出的方法能否在不同类型开放域关系抽取任务中实现良好泛化？

主要发现

• Logician 在各类开放域关系抽取任务中持续优于当前最先进算法，证明了端到端方法的有效性。
• SAOKE 格式被证明在表达多样化事实类型（包括关系、属性、描述和概念）方面合理且高效。
• 公开发布的 48,248 个中文人工标注句子的 SAOKE 数据集，是目前可用于监督式 OIE 研究的最大资源。
• Logician 中的受限复制机制通过保留输入句子中的原始词汇，确保了事实表达的字面真实性，提升了对源文本的忠实度。
• 覆盖机制有效减少了漏提和过提，实现了更均衡、更准确的事实生成。
• Logician 的全局优化策略实现了更好的事实共现建模，使事实通过共享词元并竞争注意力，从而整体提升了抽取质量。