[論文レビュー] EventPlus: A Temporal Event Understanding Pipeline

Mingyu Derek, Jiao Sun+6 more|arXiv (Cornell University)|Jan 13, 2021

Topic Modeling参考文献 49被引用数 6

ひとこと要約

EventPlus は、時系列的イベント理解のための包括的パイプラインであり、イベントトリガーおよびタイプ検出、引数同定、イベント期間推定、時系列関係抽出のための最先端モデルを統合した最初のものである。任意の入力テキストに対してエンド・ツー・エンドで高精度なアノテーションを提供し、SciBERT-FT などのドメイン適応モデルを用いた生物医学分野への拡張を含め、公開されている。

ABSTRACT

We present EventPlus, a temporal event understanding pipeline that integrates various state-of-the-art event understanding components including event trigger and type detection, event argument detection, event duration and temporal relation extraction. Event information, especially event temporal knowledge, is a type of common sense knowledge that helps people understand how stories evolve and provides predictive hints for future events. EventPlus as the first comprehensive temporal event understanding pipeline provides a convenient tool for users to quickly obtain annotations about events and their temporal information for any user-provided document. Furthermore, we show EventPlus can be easily adapted to other domains (e.g., biomedical domain). We make EventPlus publicly available to facilitate event-related information extraction and downstream applications.

研究の動機と目的

• 自然言語テキストにおける包括的時系列的イベント理解のための統合システムの不足に対処すること。
• イベント抽出、時系列関係、期間、引数の複数の最先端コンponentsを統合した統一パイプラインを開発すること。
• 特にドメイン特化の微調整を用いて生物医学テキストにまで拡張可能なマルチドメイン適用性を実現すること。
• 研究者や実務家が生テキストから豊富なイベント中心の知識を抽出できる、公開可能で使いやすいツールを提供すること。
• 質問応答、物語生成、予測などの下流アプリケーションを支援するため、構造化された時系列的イベントアノテーションを提供すること。

提案手法

• EventPlus は、BERT埋め込みと共有 BiLSTM 編碼を用いて、イベントトリガー検出と時系列関係予測を同時に実行するマルチタスク学習モデルを採用している。
• イベントの2種類の表現モデルを用いる：1つは定義されたオントロジーに基づくトリガー中心のイベント検出用、もう1つは ACE オントロジーに基づく、タイプと引数を含む意味論的に豊かなイベント構造用。
• イベント期間は、イベントスパンを期間カテゴリー（例：短い、長い、不定）に分類する専用モデルによって予測される。
• 仮説的または否定的なイベントを特定するための懸念および否定検出モジュールを備え、文脈的な正確性を向上させている。
• ドメイン適応のため、共有埋め込みを用いたマルチドメイントレーニング（MDT）と、生物医学テキスト向けに代替可能なドメイン特化モデル（例：SciBERT-FT）の両方をサポートしている。
• すべてのコンponentsは、生テキストを処理し、イベントトリガー、引数、時系列関係（グラフとして）、期間ラベルを可視化する1つのパイプラインに統合されている。

実験結果

リサーチクエスチョン

• RQ1 統一パイプラインは、包括的時系列的イベント理解のための複数の最先端コンponentsを効果的に統合できるか？
• RQ2 マルチタスク学習アプローチは、単一タスクベースラインと比較して、イベントトリガーと時系列関係抽出の両方の性能をどのように向上させるか？
• RQ3 EventPlus は、性能の劣化を伴わずに、生物学的分野のような新しいドメインにどの程度適応可能か？
• RQ4 生物医学的イベント抽出において、ドメイン特化の微調整（例：SciBERT-FT）とマルチドメイントレーニングの比較は、どのように異なるか？
• RQ5 このシステムは、下流 NLP アプリケーションに適した一貫性があり、構造的かつ実行可能なイベント中心の知識を提供できるか？

主な発見

• EventPlus は、ベンチマークデータセットでの検証により、イベントトリガー検出、時系列関係抽出、期間予測のすべての統合コンponentsで最先端の性能を達成している。
• イベントトリガーと時系列関係抽出のためのマルチタスク学習モデルは、単一タスクベースラインと比較して両タスクの性能を向上させ、共有文脈表現の利点を示している。
• 生物医学分野では、GENIA デベロップメントセットにおいて SciBERT-FT がマルチドメイントレーニング（MDT）を上回り、ドメイン特化の微調整が優れた結果をもたらすことを示している。
• 一般ドメインのイベント抽出モデルを SciBERT-FT に置き換えることで、科学的文献における正確なイベント検出が可能になり、EventPlus は生物医学テキストへ効果的に拡張された。
• EventPlus は、トリガー、引数、期間、時系列関係を含む構造化されたイベント知識を出力する包括的でエンド・ツー・エンドのソリューションを提供しており、既存のツールでは得られない。
• システムは https://kairos-event.isi.edu で公開されており、使いやすいインターフェースと紹介動画を備えており、研究および応用分野での導入を促進している。