[論文レビュー] Knowledge Base Relation Detection via Multi-View Matching

Yang Yu, Kazi Saidul Hasan+3 more|arXiv (Cornell University)|Mar 1, 2018

Topic Modeling参考文献 27被引用数 3

ひとこと要約

本稿では、関係名と関連するオブジェクトエンティティタイプを同時に照合することで、知識ベース（KB）関係検出の性能を向上させるマルチビュー照合モデルを提案する。複数のビューにおけるアテンションベースの照合とKB構造化メタデータの統合により、SimpleQuestionsおよびWebQSPデータセットの両方で最先端の結果を達成し、それぞれの前人最高性能を3.42点および0.45点上回った。

ABSTRACT

Relation detection is a core component for Knowledge Base Question Answering (KBQA). In this paper, we propose a KB relation detection model via multi-view matching which utilizes more useful information extracted from question and KB. The matching inside each view is through multiple perspectives to compare two input texts thoroughly. All these components are designed in an end-to-end trainable neural network model. Experiments on SimpleQuestions and WebQSP yield state-of-the-art results.

研究の動機と目的

• 大きな関係語彙とゼロショット一般化のニーズによるKB関係検出の精度低さという課題に対処すること。
• オブジェクトエンティティタイプなどの構造的KBメタデータを照合プロセスに統合することで、関係検出の性能を向上させること。
• 質問と関係表現の複数の視点から、複数の視点での照合を実行するエンドツーエンドのニューラルネットワークを設計すること。
• オープン語彙およびマルチホップ推論設定下で、実世界のKBQAベンチマーク（WebQSPおよびSimpleQuestionsを含む）でのモデルの評価を行うこと。
• オブジェクトエンティティタイプが、特に複雑またはオープンドメインの状況において、照合性能を顕著に向上させることを示すこと。

提案手法

• 各ビューは、質問と関係表現の異なる側面（関係名、オブジェクトエンティティタイプなど）を組み合わせるマルチビュー照合フレームワークを採用する。
• 質問と関係埋め込み間で複数の視点からの照合を実現するため、アテンション機構を適用することで、異なるテクスト的・構造的特徴間の細分化比較を可能にする。
• 質問内のエンティティメンチョンは、特定のエンティティに注目するのではなく文脈的ヒントに注目できるように、特別なトークン（例：[ENT]）に置換される。
• 単語レベルと文字レベルの埋め込みの両方を統合するが、実験ではこのKB特化設定では文字レベル埋め込みが最小限の利益をもたらすことが判明した。
• KBトリプルから得られる正例および負例の関係インスタンスを用いた教師あり損失により、すべてのコンponentsをエンドツーエンドで学習する。
• オブジェクトエンティティタイプはFreebaseトリプルから自動抽出され、照合プロセスにおける追加のビューとして使用される。

実験結果

リサーチクエスチョン

• RQ1 KBから抽出したオブジェクトエンティティタイプを組み込むことで、関係名のみの照合を超えて関係検出性能が向上するか？
• RQ2 質問と関係表現の複数の視点からの複数の視点照合が、検出精度にどのように影響するか？
• RQ3 質問内のエンティティメンチョンを[ENT]トークンに置換することで、モデルの一般化性能が向上し、関連する言語的手がかりに注目するようになるか？
• RQ4 文字レベル埋め込みが、語彙が少ないKBの文脈において、関係検出にどの程度寄与するか？
• RQ5 モデルは、未観測の関係や複雑でマルチホップな質問を含むオープンドメインKBQAに一般化できるか？

主な発見

• 提案モデルはWebQSPデータセットで85.12%の関係検出精度を達成し、前人最高性能を3.42ポイント上回り、最先端の性能を達成した。
• SimpleQuestionsデータセットでは96.78%の精度を達成し、前人最高性能を0.45ポイント上回った。
• オブジェクトエンティティタイプを追加のビューとして使用することで一貫して性能向上が見られ、関係名とは別々に照合した際に最も良い結果が得られた。
• エンティティメンチョンを[ENT]トークンに置換することで、文脈的特徴への注目が高まり、一般化性能が向上した。
• 文字レベル埋め込みは顕著な利益をもたらさず、一般テキストとは異なりKB関係では語彙が限定的かつ変動が少ないためと推測される。
• WebQSPにおける複雑で複数関係を含む質問において、モデルは高い耐性を示した。平均して1質問あたりの候補関係数が多く、推論パスも長くても安定した性能を発揮した。