[論文レビュー] Improved Neural Relation Detection for Knowledge Base Question Answering

Mo Yu, Wenpeng Yin+4 more|arXiv (Cornell University)|Apr 20, 2017

Topic Modeling参考文献 27被引用数 53

ひとこと要約

この論文は HR-BiLSTM を提案し、KBリレーション検出のための階層的残差BiLSTMモデルを用いて、SimpleQuestions および WebQSP で最先端の結果を示し、単純な KBQA システムの性能を向上させる。

ABSTRACT

Relation detection is a core component for many NLP applications including Knowledge Base Question Answering (KBQA). In this paper, we propose a hierarchical recurrent neural network enhanced by residual learning that detects KB relations given an input question. Our method uses deep residual bidirectional LSTMs to compare questions and relation names via different hierarchies of abstraction. Additionally, we propose a simple KBQA system that integrates entity linking and our proposed relation detector to enable one enhance another. Experimental results evidence that our approach achieves not only outstanding relation detection performance, but more importantly, it helps our KBQA system to achieve state-of-the-art accuracy for both single-relation (SimpleQuestions) and multi-relation (WebQSP) QA benchmarks.

研究の動機と目的

• KBQAでの大規模/オープンかつ unseen なリレーションの課題に取り組む。
• 多数のリレーション、さらには unseen なリレーションにも一般化するリレーション検出モデルを開発する。
• リレーション検出を単純なKBQAパイプラインに統合し、エンドタスクの精度を向上させる。

提案手法

• リレーションを単語レベルとリレーションレベルの粒度で表現し、それらを階層的マッチングで組み合わせる。
• 質問を複数の抽象度レベルでエンコードする深いBiLSTMを用いる。
• BiLSTM層間に残差接続を導入し、効果的な階層的マッチングを可能にする（HR-BiLSTM）。
• 正解リレーションとネガティブを識別するランキング損失で訓練する。
• リレーション検出器をエンティティ再ランキングとコアチェーン検出を含む二段階のKBQAパイプラインへ統合する。

実験結果

リサーチクエスチョン

• RQ1 thousands of KB relations including unseen ones?
• RQ2 Hierarchical matching with residual learning improve question-to-relation alignment across different abstraction levels?
• RQ3 Does incorporating relation-level and word-level representations improve KBQA end-task performance?
• RQ4 How does relation detection influence entity re-ranking and core-chain extraction in KBQA?

主な発見

• HR-BiLSTM は SimpleQuestions および WebQSP のリレーション検出タスクでベースラインより 2–3 ポイント高い。
• 階層的マッチングと残差学習は、層の単純な融合よりも性能を向上させ、特に WebQSP で顕著。
• リレーション名と語彙レベルのリレーション表現の両方を使用すると、どちらか一方を用いる場合より良い結果となり、SimpleQuestions で特に顕著な改善。
• リレーション検出とエンティティ再ランキングを含む二段階のKBQAは SimpleQuestions で最先端の結果、WebQSP で競争力のある結果を達成。
• マルチデテクター集合は SimpleQuestions の性能をさらに向上させる。"] ,
• table_headers: [
• Model
• SimpleQuestions
• WebQSP