[論文レビュー] Named Entity Disambiguation using Deep Learning on Graphs

Alberto Cetoli, Mohammad Akbari+3 more|arXiv (Cornell University)|Oct 22, 2018

Topic Modeling参考文献 27被引用数 9

ひとこと要約

本稿では、Wikidataグラフを用いた命名参照の曖昧性解消（NED）のためのディープラーニング手法を提案する。グラフの三項対（三項節）をBi-LSTMで符号化し、文脈ベクトルを生成する。新規に作成されたWikidata-Disambデータセットにおいて91.6%のF1スコアを達成し、ベースラインモデルを7.1%上回る。三項対へのBi-LSTMが最も効果的であり、グラフのトポロジーは二次的な役割を果たす。

ABSTRACT

We tackle \ac{NED} by comparing entities in short sentences with \wikidata{} graphs. Creating a context vector from graphs through deep learning is a challenging problem that has never been applied to \ac{NED}. Our main contribution is to present an experimental study of recent neural techniques, as well as a discussion about which graph features are most important for the disambiguation task. In addition, a new dataset (\wikidatadisamb{}) is created to allow a clean and scalable evaluation of \ac{NED} with \wikidata{} entries, and to be used as a reference in future research. In the end our results show that a \ac{Bi-LSTM} encoding of the graph triplets performs best, improving upon the baseline models and scoring an m{F1} value of $91.6\%$ on the \wikidatadisamb{} test set

研究の動機と目的

• Wikidataグラフから文脈ベクトルを生成するためのディープラーニング手法を評価し、NEDの精度を向上させること。
• ノードの内容、エッジの種別、トポロジー構造といった、グラフの特徴のうち、曖昧性解消に最も寄与するものは何かを調査すること。
• Wikipediaベースの参照に代わる、Wikidataエントリを用いたスケーラブルなベンチマークデータセット（Wikidata-Disamb）を構築すること。
• Bi-LSTM、GCN、GRUといったニューラルアーキテクチャが、エンティティの曖昧性解消に際してグラフ情報をどのように符号化するかを比較すること。
• 三項対ベースの表現と完全なグラフトポロジーのどちらが、短テキストNEDにおいてより優れたパフォーマンスを発揮するかを特定すること。

提案手法

• Wikidataエントリからグラフを構築し、ノードをエンティティ、エッジを関係として定義する。ノードおよびエッジラベルにはGloVe単語ベクトルを用いて埋め込みを生成する。
• グラフから三項対（主語-述語-目的語）を抽出し、関係構造の順序的依存関係をモデル化するため、Bi-LSTMを用いて符号化する。
• ノードおよびエッジの埋め込みは、そのテキストラベルのGloVeベクトルの平均値により形成され、シンボリック知識のニューラル処理を可能にする。
• 平均プーリングを用いた全結合ネットワークをベースラインとして用い、RNNベースのモデルと性能を比較する。
• グラフ畳み込みネットワーク（GCN）を適用し、トポロジー符号化を検討するが、多数のグラフが木構造をとるため、性能は限定的である。
• RNNモデルにアテンション機構を組み込み、文脈ベクトル生成時に重要な三項対に重みを付ける。

実験結果

リサーチクエスチョン

• RQ1 NEDの文脈において、Wikidataグラフを符号化する際、Bi-LSTM、GCN、GRUのうちどのディープラーニングアーキテクチャが最も優れた性能を示すか？
• RQ2 完全なグラフトポロジーを用いるのと三項対ベースのシーケンスを用いるのとでは、どちらが曖昧性解消性能に優れるか？
• RQ3 ノードの内容と比較して、エッジの種別（関係ラベル）は、エンティティを区別するためにどの程度重要か？
• RQ4 グラフのトポロジーは、特にグラフが大部分が木構造をとる場合、モデルのパフォーマンスにどの程度影響を与えるか？
• RQ5 Wikidataグラフ上で学習したニューラルモデルは、短テキストの曖昧性解消において、従来の手法を上回ることができるか？

主な発見

• 三項対にBi-LSTMを適用したモデルが、Wikidata-Disambテストセットで最高のF1スコア91.6%を達成し、ベースラインモデルを顕著に上回った。
• ノード埋め込みと平均プーリングのみを用いたベースラインモデルはF1が84.5%であり、三項対へのBi-LSTMを導入することで7.1%の向上が得られた。
• グラフ畳み込みネットワーク（GCN）は性能が低く、データセット内のWikidataグラフが主に木構造をとるため、トポロジーの信号が限定的であると考えられる。
• 三項対表現にエッジ種別の情報を含めることで、顕著な性能向上が得られ、関係の文脈が極めて重要であることが示された。
• グラフのトポロジーは曖昧性解消において二次的な役割を果たす。データセットの多くが単純な木構造であるため、GCNベースの手法の利点は減少した。
• 提案されたWikidata-Disambデータセットは、Wikidataを知識ベースとして用いた将来的なNED研究のための明確でスケーラブルなベンチマークを提供する。