[論文レビュー] Query and Extract: Refining Event Extraction as Type-oriented Binary Decoding

Sijia Wang, Mo Yu+3 more|arXiv (Cornell University)|Oct 14, 2021

Natural Language Processing Techniques被引用数 12

ひとこと要約

本稿では、イベントタイプとアーギュメントロールを自然言語クエリとして扱い、アテンション機構を活用して入力テキストとの意味的整合性を向上させる、新しいクエリ・アンド・エクストラクトフレームワークを提案する。トリガーとアーギュメント検出をタイプ指向の二値デコードとして定式化することで、ACEおよびEREで最先端の性能を達成し、ゼロショット一般化において顕著な向上を示した—強力なベースラインと比較して、トリガー検出で16%、アーギュメント検出で26%高いF1スコアを達成した。

ABSTRACT

Event extraction is typically modeled as a multi-class classification problem where event types and argument roles are treated as atomic symbols. These approaches are usually limited to a set of pre-defined types. We propose a novel event extraction framework that uses event types and argument roles as natural language queries to extract candidate triggers and arguments from the input text. With the rich semantics in the queries, our framework benefits from the attention mechanisms to better capture the semantic correlation between the event types or argument roles and the input text. Furthermore, the query-and-extract formulation allows our approach to leverage all available event annotations from various ontologies as a unified model. Experiments on ACE and ERE demonstrate that our approach achieves state-of-the-art performance on each dataset and significantly outperforms existing methods on zero-shot event extraction.

研究の動機と目的

• 従来のイベント抽出手法がイベントタイプとアーギュメントロールを原子的記号として扱い、豊かな意味的特徴を無視するという制限に対処する。
• 意味的クエリを活用することで、新しいまたは未観測のイベントタイプやオントロジーへの一般化性能が低い既存のモデルを克服する。
• 再トレーニングや再設定を必要とせず、複数のイベントオントロジーからの訓練データを効果的に活用できる統合フレームワークを開発する。
• 各イベントトリガーごとに一度のエンコーディングとデコードを可能にすることで、アーギュメント抽出の効率性と正確性を向上させる。
• 手作業で作成された質問テンプレートに依存せずに、自然言語クエリの意味的豊かさを活用することで、ロバストなゼロショットイベント抽出を実現する。

提案手法

• 各イベントタイプを、その名前とプロトタイプトリガーの短縮リスト（例：'Attack' と 'invaded', 'airstrikes'）からなる自然言語クエリとして表現する。
• 事前学習済みのBERTエンコーダーを用い、入力文と各イベントタイプクエリを同時にエンコードすることで、クエリに依存する文脈表現を生成する。
• 入力トークンとクエリ埋め込み間のアテンション分布を用いて、各トークンごとに二値デコードを実行し、トリガー候補を特定する。
• アーギュメント抽出のため、特定のイベントタイプ下のすべてのアーギュメントロールを1つのクエリに統合し、マルチウェイ・アテンション機構を適用して同時にすべてのアーギュメントを予測する。
• 事前に検出されたエンティティ上で二値デコードを実行してアーギュメントロールを予測することで、境界誤差を低減し、効率性を向上させる。
• すべてのイベントタイプとアーギュメントロールを自然言語クエリとして扱うことで、クロスオントロジーのアノテーションを統合的に活用し、統一されたトレーニングとゼロショット推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 イベント抽出を、イベントタイプと入力テキスト間の意味的関係をよりよく捉えるクエリ・アンド・エクストラクトタスクとして再定義できるか？
• RQ2 イベントタイプとアーギュメントロールに自然言語クエリを用いることで、未観測のイベントタイプやオントロジーへの一般化性能がどのように向上するか？
• RQ3 複数のイベントオントロジーでトレーニングされた統合モデルは、監視下およびゼロショットイベント抽出の両方で優れた性能を達成できるか？
• RQ4 各イベントトリガーごとに一度のエンコーディングとデコードを実行することで、逐次的またはQAベースの手法と比較して、効率性と正確性が向上するか？
• RQ5 既存のQAベースのアプローチと比較して、手作業で作成された質問テンプレートが存在しないことで、どれほどロバスト性と性能が向上するか？

主な発見

• 提案されたクエリ・アンド・エクストラクトフレームワークは、標準的な監視下イベント抽出においてACEおよびEREベンチマークで最先端の性能を達成した。
• ゼロショットイベント抽出において、強力なベースラインと比較して、トリガー検出でF1スコアが16ポイント向上し、アーギュメント検出で26ポイント向上した。
• QAベースのアプローチよりもゼロショット設定で顕著に優れた一般化性能を示し、高品質な質問テンプレートを必要としない優れた一般化能力を実証した。
• 一度のエンコーディングとデコード戦略により、BERT_QA_Argと比較してトレーニングおよび推論時間を36%削減し、効率性を向上させた。
• より高い複雑性にもかかわらず、細粒度のMAVENデータセットにおいても強力な性能を維持し、トリガー検出で68.8%のF1スコアを達成した。
• 異なるイベントオントロジーを統一されたスケーラブルなモデルアーキテクチャに統合することで、クロスオントロジーのアノテーションを効果的に活用した。