[論文レビュー] Joint Extraction of Events and Entities within a Document Context

Bishan Yang, Tom M. Mitchell|arXiv (Cornell University)|Sep 12, 2016

Topic Modeling参考文献 19被引用数 22

ひとこと要約

本稿では、文書全体にわたるイベント、その引数、およびエンティティを同時に抽出する共同推論フレームワークを提案する。イベント内構造、イベント同士の関係、エンティティ抽出モデルを活用することで、最先端の手法を著しく上回るイベント抽出性能を達成するとともに、文書レベルの文脈と依存関係モデリングを活用することで、強力なベースラインのエンティティ抽出性能も向上させる。

ABSTRACT

Events and entities are closely related; entities are often actors or participants in events and events without entities are uncommon. The interpretation of events and entities is highly contextually dependent. Existing work in information extraction typically models events separately from entities, and performs inference at the sentence level, ignoring the rest of the document. In this paper, we propose a novel approach that models the dependencies among variables of events, entities, and their relations, and performs joint inference of these variables across a document. The goal is to enable access to document-level contextual information and facilitate context-aware predictions. We demonstrate that our approach substantially outperforms the state-of-the-art methods for event extraction as well as a strong baseline for entity extraction.

研究の動機と目的

• 文書の文脈を無視し、誤り伝搬を引き起こすパイプライン型および文単位のイベント抽出手法の限界を解消すること。
• イベント、その引数、およびエンティティの間の依存関係を文書全体にわたって共同でモデリングし、文脈に配慮した予測を可能にすること。
• 文書レベルのディス course 情報と構造的関係を統合することで、イベント抽出およびエンティティ抽出の両方の性能を向上させること。
• 別個のタスクとして扱うのではなく、イベント、意味的役割、エンティティの間で統合的な推論を実行する統一フレームワークを構築すること。

提案手法

• 本手法は問題を3つのサブタスクに分解する：イベント内におけるトリガーと引数の間の依存関係の学習、文書全体におけるイベント間の共起関係のモデリング、およびエンティティ抽出の独立的学習。
• これらの3つの要素を統合した単一の共同最適化フレームワークとして統合する構造的予測モデルを採用する。
• 意味的役割とエンティティタイプをイベント構造の一部としてモデル化することで、引数役割とエンティティタイプの整合性を保証する。
• 確率的グラフィカルモデルを用いて、イベントトリガー、引数、エンティティ間の依存関係を表現し、文境界を越えた共同推論を可能にする。
• イベントタイプ、共起パターン（例：Die イベントと Attack イベントの共起）およびコアリファレンス対応のエンティティグランドイングの特徴を組み込む。
• ドキュメントレベルのディス course コンテキストを活用して、曖昧な参照や長距離依存（例：イベント参加者を指す代名詞）を解消する。

実験結果

リサーチクエスチョン

• RQ1 文書全体にわたるイベントとエンティティの共同モデリングは、文単位またはパイプライン型手法と比較して抽出性能を向上させることができるか？
• RQ2 イベント同士の共起パターンと文書レベルの整合性制約は、どのようにイベント抽出の精度を向上させるか？
• RQ3 イベント情報を統合することで、特に低イベント文脈においてエンティティ抽出の再現率とF1値はどの程度向上するか？
• RQ4 共同推論により、エンティティタギングからイベント抽出への誤り伝搬はどの程度軽減されるか？
• RQ5 代名詞がイベント参加者を指すような長距離依存を解消する際、モデルの有効性はいかがなものか？

主な発見

• 提案手法はACEコーパスにおいて最先端のイベント抽出システムを著しく上回り、F1スコアで顕著な向上を示した。
• 共同モデルは、特にイベント情報がエンティティの曖昧性解消に寄与するケースにおいて、強力なベースラインのエンティティ抽出性能を向上させた。
• 文書コンテキストを活用することで、イベント参加者を指す代名詞のような長距離依存を効果的に解消できた。
• エンティティ抽出にイベント情報を統合することで、特にイベントの引数であるエンティティにおいて再現率とF1値が向上した。
• イベント共起パターン（例：Die イベントと Attack イベントの共起）が、イベント分類と推論の向上に有効であることが示された。
• エンティティとイベントのメンションを別々に処理するのではなく、共同で学習することで誤り伝搬を低減した。