[論文レビュー] High-Throughput and Language-Agnostic Entity Disambiguation and Linking on User Generated Data

Preeti Bhargava, Nemanja Spasojevic+1 more|arXiv (Cornell University)|Mar 13, 2017

Topic Modeling参考文献 17被引用数 5

ひとこと要約

本論文では、文脈依存的および文脈非依存的特徴（例：表記-エンティティ共起、エンティティの人気度、文脈類似度など）を活用する高スループットで言語に依存しないエンティティの意味あいまいさ解消およびリンクフレームワーク「Lithium EDLシステム」を提示する。Google Cloud NLP や OpenCalais といった最先端のシステムよりも 75% も多くのエンティティを抽出・正しく意味あいまいさを解消でき、一般のハードウェアでも顕著に高速に動作する。

ABSTRACT

The Entity Disambiguation and Linking (EDL) task matches entity mentions in text to a unique Knowledge Base (KB) identifier such as a Wikipedia or Freebase id. It plays a critical role in the construction of a high quality information network, and can be further leveraged for a variety of information retrieval and NLP tasks such as text categorization and document tagging. EDL is a complex and challenging problem due to ambiguity of the mentions and real world text being multi-lingual. Moreover, EDL systems need to have high throughput and should be lightweight in order to scale to large datasets and run on off-the-shelf machines. More importantly, these systems need to be able to extract and disambiguate dense annotations from the data in order to enable an Information Retrieval or Extraction task running on the data to be more efficient and accurate. In order to address all these challenges, we present the Lithium EDL system and algorithm - a high-throughput, lightweight, language-agnostic EDL system that extracts and correctly disambiguates 75% more entities than state-of-the-art EDL systems and is significantly faster than them.

研究の動機と目的

• エンティティの意味あいまいさ、多言語のユーザーアービトラリー・コンテンツ、高スループット、豊富なエンティティのアノテーションといったエンティティの意味あいまいさ解消およびリンク（EDL）における課題に対処すること。
• 大規模データセット向けに、市販のマシンでも効率的に動作可能な軽量でスケーラブルなEDLシステムを開発すること。
• 人物や組織などの名前付きエンティティにとどまらず、職業、スポーツ、活動といったエンティティの認識を拡張すること。
• 英語、アラビア語、スペイン語、フランス語、ドイツ語、日本語を含む複数の言語を、パフォーマンスや正確性を損なわずサポートすること。
• エンティティカバレッジとランタイム効率の両面で、既存の商業的および研究用EDLシステムを上回ること。

提案手法

• システムは、文脈依存的特徴（例：表記-エンティティ共起、文脈類似度）と文脈非依存的特徴（例：エンティティの人気度、表記頻度）を組み合わせたハイブリッドアプローチを採用する。
• エンティティの人気度、表記-エンティティ関連性、文脈類似度からの証拠を統合するため、生成モデルを適用する。
• 共起パターンやエンティティの人気度といった普遍的特徴に依存することで、言語固有のモデルを避けることにより、言語に依存しない設計を実現する。
• 高速な照合と意味あいまいさ解消を実現するため、事前にインデックス化された知識ベース（初期段階ではFreebase、今後はWikipediaに移行予定）を活用する。
• 前処理段階と意味あいまいさ解消段階での計算オーバーヘッドを最小限に抑えることで、高スループットを実現する。
• テキスト前処理と意味あいまいさ解消を分離したスケーラブルなパイプラインアーキテクチャを採用し、並列処理と効率的なリソース使用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 言語に依存しないEDLシステムは、Google Cloud NLP や OpenCalais といった商業システムよりも高いエンティティカバレッジを達成できるか？
• RQ2 高スループットで軽量なEDLシステムの性能は、最先端のシステムと比較して、速度とスケーラビリティの面でどう異なるか？
• RQ3 文脈依存的および文脈非依存的特徴は、多様な言語とエンティティタイプにおいて、意味あいまいさ解消の正確性と再現率をどの程度向上できるか？
• RQ4 活動や職業といった名前付きエンティティ以外のエンティティを、高い正確性と再現率で抽出・正しく意味あいまいさを解消できるか？
• RQ5 既存のフレームワークと比較して、大規模な多言語のユーザーアービトラリー・コンテンツにおいて、システムのランタイムパフォーマンスはどの程度スケーリングするか？

主な発見

• Lithium EDLシステムは、Google Cloud NLP よりも少なくとも75%多くのエンティティを意味あいまいさ解消しており、Google NLが見逃したと推定される6,080の正しいエンティティを正しく同定している。
• OpenCalaisが見逃した3,500以上のエンティティを同定しており、この商業APIよりも顕著に高い再現率を示している。
• Lithiumパイプラインのテキスト前処理段階は、Stanford NLP NER に依存するAIDAと比較して、30,000〜50,000倍高速である。
• 意味あいまいさ解消のランタイムは類似しているが、LithiumシステムはAIDAと比較して、50KBのテキストあたり2.8倍多くのエンティティを抽出している。
• 1つの固有エンティティを抽出するごとの意味あいまいさ解消ランタイムは、LithiumパイプラインがAIDAと比較して3.5倍速い。
• Google NL、OpenCalais、AIDAが見逃した「iOS」や「テック業界」のようなエンティティを、システムは正しく意味あいまいさを解消してリンクできており、優れた表現力とカバレッジを示している。