[論文レビュー] Using Word Embeddings for Visual Data Exploration with Ontodia and Wikidata

Gerhard Wohlgenannt, Nikolay Klimov+4 more|arXiv (Cornell University)|Mar 4, 2019

Semantic Web and Ontologies参考文献 8被引用数 4

ひとこと要約

本稿では、非技術的ユーザーのためのリンクドデータ検索を向上させるために、Ontodiaの自然言語検索に単語埋め込みを統合し、意味的に関連するエンティティプロパティを推薦することで、検索の可 Discoverability を向上させる手法を提案する。Wikidataを用いて、fastText、LexVec、GloVeの埋め込みを評価した結果、語彙を完全に含み300次元のベクトルを用いたfastTextが、関連プロパティのランク付けにおいて最高の正確性（MRR 0.78）を達成し、視覚的データ探索におけるユーザー体験を顕著に向上させた。

ABSTRACT

One of the big challenges in Linked Data consumption is to create visual and natural language interfaces to the data usable for non-technical users. Ontodia provides support for diagrammatic data exploration, showcased in this publication in combination with the Wikidata dataset. We present improvements to the natural language interface regarding exploring and querying Linked Data entities. The method uses models of distributional semantics to find and rank entity properties related to user input in Ontodia. Various word embedding types and model settings are evaluated, and the results show that user experience in visual data exploration benefits from the proposed approach.

研究の動機と目的

• 非技術的ユーザーがリンクドデータを探索する際のOntodiaにおける自然言語検索を改善し、正確なラベル一致を超えた意味的マッチングを可能にする。
• fastText、LexVec、GloVeといった事前学習済み語彙埋め込みモデルとそのハイパーパrameterの有効性を評価し、Wikidataにおける意味的に関連するエンティティプロパティの推薦に適した手法を検証する。
• 分布的意味論に基づく語彙埋め込みが、正確な語彙一致に依存するのを減らし、視覚的データ探索におけるユーザー体験を向上させることで、その有効性を示す。
• モデルサイズ、ベクトル次元数、およびプロパティ記述の含め方の影響が、検索性能に与える影響を調査する。

提案手法

• 各Wikidataプロパティを、トークン化およびストップワード除去を経て、そのラベル（および任意の記述）の語彙埋め込みを合算することでベクトル表現に変換する。
• 同様の方法で、ユーザークエリをベクトル表現に変換する：トークン化、ストップワード除去、語彙ベクトルの合算。
• クエリベクトルと各プロパティベクトル間のコサイン類似度に基づき、すべてのエンティティプロパティを類似度スコア順にランク付けし、意味的に関連する接続を特定する。
• 検索インターフェースを拡張し、正確一致、エイリアス一致、埋め込みベースの意味的マッチを返し、類似度スコア順に並べ替える。
• Wikipediaおよび追加のコーパス上で、Goldスタンダードデータセット（プロパティエイリアス）を用いて、fastText、LexVec、GloVeの複数の語彙埋め込みモデルを学習・評価する。
• MRR（平均逆順位）およびtop-k正確度を用いて、全Wikidataおよびエンティティ固有のプロパティセットの両方でモデル性能を定量的に評価する。

実験結果

リサーチクエスチョン

• RQ1 語彙埋め込みは、正確なラベル一致を超えて、自然言語クエリに対してWikidataの意味的に関連するエンティティプロパティを効果的に推薦できるか？
• RQ2 fastText、LexVec、GloVeといった事前学習済み語彙埋め込みモデルの中で、このタスクにおいて正確性と頑健性の観点で最も優れたモデルはどれか？
• RQ3 語彙サイズやベクトル次元数といったモデルハイパーパrameterが、プロパティ推薦の性能に与える影響は何か？
• RQ4 ベクトル表現にプロパティ記述を含めることで、意味的マッチングの正確性が向上するか？
• RQ5 提案手法は、Ontodiaにおけるインタラクティブな視覚的データ探索におけるユーザー体験を顕著に向上させることができるか？

主な発見

• fastTextは、すべての評価設定でLexVecやGloVeを上回り、エンティティ固有のプロパティ検索タスクにおいて最高のMRR（0.78）を達成した。
• 300,000語の語彙と300次元のベクトルを用いた場合が最良の性能を示し、語彙サイズを10,000語に減らすと正確性が急激に低下した。
• プロパティ記述をベクトル表現に含めることで性能が向上し、より豊かな意味的表現が可能であることが示された。
• エンティティ固有のエイリアスに対するプロパティ推薦において、top-1正確度68.63%、top-3正確度84.75%を達成し、高い関連性が確認された。
• インタラクティブなシナリオにおけるクエリ応答時間は10ms未満であり、リアルタイムユーザーインタラクションに適した性能を示した。
• Wikidataのデータ品質問題（例：「end time」に対して「divorced」がエイリアスとして使われるなど、意味的に同義ではないエイリアス）が誤分類の要因となり、データキュレーションの機会を示唆した。