[论文解读] UHop: An Unrestricted-Hop Relation Extraction Framework for Knowledge-Based Question Answering

Ziyuan Chen, Chih-Hung Chang+3 more|arXiv (Cornell University)|Apr 2, 2019

Topic Modeling参考文献 35被引用 48

一句话总结

UHop 引入一个对 KBQA 的无限制跳跃框架，将关系抽取分为单跳预测和停止决策，从而实现无跳跃上限的最大化并在减少搜索空间的同时仍保持与最先进模型的竞争力。

ABSTRACT

In relation extraction for knowledge-based question answering, searching from one entity to another entity via a single relation is called "one hop". In related work, an exhaustive search from all one-hop relations, two-hop relations, and so on to the max-hop relations in the knowledge graph is necessary but expensive. Therefore, the number of hops is generally restricted to two or three. In this paper, we propose UHop, an unrestricted-hop framework which relaxes this restriction by use of a transition-based search framework to replace the relation-chain-based search one. We conduct experiments on conventional 1- and 2-hop questions as well as lengthy questions, including datasets such as WebQSP, PathQuestion, and Grid World. Results show that the proposed framework enables the ability to halt, works well with state-of-the-art models, achieves competitive performance without exhaustive searches, and opens the performance gap for long relation paths.

研究动机与目标

• 放宽知识库关系抽取中的固定跳数限制，以处理较长和未知长度的关系路径。
• 将关系抽取分解为单跳关系预测和停止（halt）决策。
• 通过整合到基于转换的搜索框架中，实现与现有最先进模型的兼容性。
• 在不牺牲性能的前提下，将搜索空间从指数级降至多项式级。

提出的方法

• 两子任务框架：（i）通过对候选出站关系进行成对分类来进行单跳关系抽取；（ii）通过分数比较来决策何时停止的比较停止决策。
• 贪婪的基于转换的搜索，从主题实体沿所选关系遍历，在每次跳跃时更新当前实体和候选集合。
• 使用一个停止决策，通过将当前跳数分数与外向选项进行比较来决定是否继续或停止。
• 动态问题表示在每个选定关系更新，以聚焦下一个跳跃相关信息。
• 端到端联合训练，通过组合损失同时优化关系抽取和停止决策。

实验结果

研究问题

• RQ1 一个无限制跳数框架能否在不预先定义最大跳数的情况下实现具有竞争力的KBQA性能？
• RQ2 基于转换的搜索结合停止决策在现实世界和长路径问题上是否能有效降低搜索空间同时保持准确性？
• RQ3 动态问题表示在多跳问题中如何影响关系抽取和停止决策？

主要发现

• 当在框架内使用时，UHop 可以与最先进模型实现竞争性结果，同时消除了对固定跳数上限的需求。
• 使用 UHop 时的搜索空间从大约 n(n-1)^(L-1) 降至约 n(L+1)，实验在 WebQSP 上显示候选关系减少约 30%。
• 在 WebQSP（1–2 跳）和 PathQuestion/PQL（2–3 跳）数据集上，HR-BiLSTM 和 ABWIM 在 UHop 内的表现与它们的独立版本相当并且优于若干基线。
• Grid World 实验表明 UHop 能实现长路径推理（最长可达 10 跳），而基线模型在没有无限制跳跃框架的情况下难以应对。
• 动态问题表示 (+DQ) 通常在 PQ/PQL 数据集上改进关系抽取，尤其是在第一跳，并在 UHop 内共同训练时有助于停止决策。