[論文レビュー] UHop: An Unrestricted-Hop Relation Extraction Framework for Knowledge-Based Question Answering

Ziyuan Chen, Chih-Hung Chang+3 more|arXiv (Cornell University)|Apr 2, 2019

Topic Modeling参考文献 35被引用数 48

ひとこと要約

UHopはKBQAの無制限ホップフレームワークを導入し、関係抽出をシングルホップ予測と終了決定に分割することで、ホップフリーの最大値を可能にし、探索空間を削減すると同時に最先端モデルと競争力を保つ。

ABSTRACT

In relation extraction for knowledge-based question answering, searching from one entity to another entity via a single relation is called "one hop". In related work, an exhaustive search from all one-hop relations, two-hop relations, and so on to the max-hop relations in the knowledge graph is necessary but expensive. Therefore, the number of hops is generally restricted to two or three. In this paper, we propose UHop, an unrestricted-hop framework which relaxes this restriction by use of a transition-based search framework to replace the relation-chain-based search one. We conduct experiments on conventional 1- and 2-hop questions as well as lengthy questions, including datasets such as WebQSP, PathQuestion, and Grid World. Results show that the proposed framework enables the ability to halt, works well with state-of-the-art models, achieves competitive performance without exhaustive searches, and opens the performance gap for long relation paths.

研究の動機と目的

• 長い長さや未知の長さの関係パスに対応するため、知識ベース型の関係抽出における固定ホップ制限を緩和する。
• 関係抽出をシングルホップの関係予測と終了（停止）決定に分解する。
• 遷移ベースの探索フレームワークに統合することで、既存の最先端モデルとの互換性を可能にする。
• 性能を犠牲にすることなく、探索空間を指数関数的から多項式に削減する。

提案手法

• 二つのサブタスクフレームワーク： (i) 候補の外部関係を対比較分類してシングルホップの関係抽出を行う； (ii) スコアに基づいていつ停止するかを決定する比較的な終了決定。
• 選択された関係に沿ってトピックエンティティから辿る貪欲な遷移ベースの探索で、各ホップごとに現在のエンティティと候補集合を更新する。
• 現在のホップのスコアを外部オプションと比較して継続するか停止するかを決定する終了決定を使用。
• 次のホップの関連情報に焦点を当てるため、選択された各関係とともに更新される動的な質問表現。
• 結合損失を通じて関係抽出と終了決定の双方を最適化するエンドツーエンドの訓練。

実験結果

リサーチクエスチョン

• RQ1 事前に最大ホップ数を定義せずに、無制限ホップフレームワークが競争力のあるKBQA性能を達成できるか？
• RQ2 終了決定付きの遷移ベースの探索は、実問・長パス質問で正確性を維持しつつ探索空間を効果的に削減できるか？
• RQ3 動的な質問表現は、マルチホップ質問全体で関係抽出と終了決定にどのような影響を与えるか？

主な発見

• UHopはフレームワーク内で最先端モデルと競合する結果を生み出し、固定ホップ制限の必要性をなくす。
• UHopを用いる探索空間は概ね n(n-1)^(L-1) から約 n(L+1) に削減され、WebQSPで候補関係の30%削減が実験で示された。
• WebQSP（1–2ホップ）とPathQuestion/PQL（2–3ホップ）データセットで、UHop内のHR-BiLSTMとABWIMはそれぞれ単体版と同等の性能を発揮し、いくつかのベースラインを上回る。
• Grid World実験は、従来モデルが無制限ホップフレームワークなしでは困難な長パス推論（最大10ホップ）をUHopが可能にすることを示す。
• 動的質問表現（+DQ）は一般にPQ/PQLデータセットで関係抽出を改善し、特に最初のホップで効果を発揮し、UHop内で共同訓練された場合には終了決定にも寄与する。