[論文レビュー] Modeling Semantics with Gated Graph Neural Networks for Knowledge Base Question Answering

Daniil Sorokin, Iryna Gurevych|TUbilio (Technical University of Darmstadt)|Aug 13, 2018

Topic Modeling参考文献 28被引用数 57

ひとこと要約

論文はGated Graph Neural Networks (GGNNs)を導入し、KB QAの意味解析の構造を符号化することで、Wikidataベースのデータセットでベースラインより性能を向上させることを示します。GGNNsは意味解析のグラフ構造を明示的にモデル化し、複雑な質問をより適切に扱います。

ABSTRACT

The most approaches to Knowledge Base Question Answering are based on semantic parsing. In this paper, we address the problem of learning vector representations for complex semantic parses that consist of multiple entities and relations. Previous work largely focused on selecting the correct semantic relations for a question and disregarded the structure of the semantic parse: the connections between entities and the directions of the relations. We propose to use Gated Graph Neural Networks to encode the graph structure of the semantic parse. We show on two data sets that the graph networks outperform all baseline models that do not explicitly model the structure. The error analysis confirms that our approach can successfully process complex semantic parses.

研究の動機と目的

• 多跳関係と制約を含む複雑な質問に対するKB QAの改善を動機付ける。
• Wikidataのエンティティとリレーション型を含むグラフとして意味解析表現を提案する。
• GGNNベースのエンコーディングを導入し、意味グラフのベクトル表現を学習する。
• グラフ構造を用いたモデルとベースラインを比較し、性能に及ぶグラフ構造の影響を分析する。

提案手法

• 質問からセマンティックグラフを段階的なグラフ生成プロセス（追加エンティティ、制約の追加、argmax/argminの追加）で構築する。
• Deep Convolutional Neural Networkを用いてqのベクトル表現を得る。
• ラベル付きノード（エンティティ）と有向・ラベル付きエッジ（リレーション）を用いてGGNNで意味グラフをエンコードする。
• ノード埋め込みをエンティティラベルとリレーション型の方向性埋め込みから初期化する。
• T=5ステップ後のqノードからグラフ全体の出力ベクトルを計算し、質問表現とのコサイン類似度でグラフをスコア付けする。
• WikidataベースのQAからの弱教師ありで正例/負例グラフ候補を最大マージン損失で訓練する。

実験結果

リサーチクエスチョン

• RQ1 GGNNsを用いた意味グラフ構造の明示的モデリングは、複雑な質問に対するKB QAの性能を向上させるか？
• RQ2 GGNNは意味解析で限られたまたはグラフ構造なしのベースラインと比べてどうか。
• RQ3 グラフ構造のエンコードはドメイン内およびドメイン外のQA性能にどのような影響を及ぼすか。
• RQ4 エンティティリンクの誤りやKBデータの不整合に対してGGNN手法の頑健性はどの程度か。

主な発見

モデル	適合率	再現率	F値
STAGG	0.19105924	0.22672522	0.18276838
Single Edge	0.22397556	0.27129068	0.21476376
Pooled Edges	0.20943364	0.25532975	0.20321495
GNN	0.24185018	0.28901665	0.23259515
GGNN	0.26857575	0.31791255	0.25877491

• GGNNはWebQSP-WDのテスト済みモデルの中で最高のF値を達成（0.2588）、GGNNはQALD-7データセットでも最高の成績（0.2131）を記録。
• GGNおよびGGNNは、グラフ構造を無視する、またはエッジをプールするベースラインを一貫して上回り、意味解析の構造モデル化の価値を示している。
• 複数のリレーションを要する複雑な質問で特に、非グラフまたは単純なグラフ表現よりも高い精度を示す。
• エラー分析では、GGNNは一部の誤ったグラフを減らすが、KB-質問パスのギャップとデータ不整合の影響を依然受け、hit@10は44.05%に達する。
• GGNNモデルは、WebQSP-WDにおいて最良の非グラフモデルよりF値を27.4%改善。