[論文レビュー] A Survey on Deep Learning Event Extraction: Approaches and Applications

Qian Li, Jianxin Li+9 more|arXiv (Cornell University)|Jul 5, 2021

Advanced Text Analysis Techniques被引用数 12

ひとこと要約

本サーベイは一般ドメインにおける深層学習ベースのイベント抽出について包括的な概要を提供し、パイプライン型およびジョイント型のパラダイムに分類してアプローチを分析し、モデルアーキテクチャ、ベンチマーク、評価指標を検討している。依存関係学習、エンドツーエンドモデリング、マルチイベント抽出、ドメイン適応、解釈可能性といった主な課題を強調し、イベント抽出分野における今後の研究の構造的ロードマップを提示している。

ABSTRACT

Event extraction (EE) is a crucial research task for promptly apprehending event information from massive textual data. With the rapid development of deep learning, EE based on deep learning technology has become a research hotspot. Numerous methods, datasets, and evaluation metrics have been proposed in the literature, raising the need for a comprehensive and updated survey. This article fills the research gap by reviewing the state-of-the-art approaches, especially focusing on the general domain EE based on deep learning models. We introduce a new literature classification of current general domain EE research according to the task definition. Afterward, we summarize the paradigm and models of EE approaches, and then discuss each of them in detail. As an important aspect, we summarize the benchmarks that support tests of predictions and evaluation metrics. A comprehensive comparison among different approaches is also provided in this survey. Finally, we conclude by summarizing future research directions facing the research area.

研究の動機と目的

• 一般ドメインにおける深層学習ベースのイベント抽出手法について、体系的かつ最新のサーベイを提供すること。
• タスク定義に基づいて、特にパイプライン型とジョイント型のパラダイムを区別する形で、既存のアプローチを分類・分析すること。
• 標準データセット（ACE 2005など）における最先端モデルのベンチマークデータセット、評価指標、定量的パフォーマンスを要約すること。
• モデルの一般化、依存関係学習、エンドツーエンド学習、文書レベルの抽出、解釈可能性に関する主な課題を特定・議論すること。
• 実世界の応用におけるイベント抽出の進展を図るための今後の研究方向性を提示すること。

提案手法

• タスクの分解とモデル統合に基づいて、イベント抽出手法をパイプライン型とジョイント型のパラダイムに分類すること。
• トリガー識別、トリガー分類、引数識別、役割分類の各タスクに対して、BERTベースのアーキテクチャを含む深層学習モデルを分析すること。
• 外部知識と事前学習表現を統合することで、モデルの一般化性能とパフォーマンスを向上させること。
• ACE 2005などの標準ベンチマークを用いてモデルを評価し、F1スコア、適合率、再現率などの指標を用いること。
• 引数役割分類のため、系列ラベル付け、系列から構造への生成、機械読解（MRC）フレームワークを採用すること。
• タスク定義とモデルパラダイムに基づいて、一般ドメインのイベント抽出のための統一的分類枠組みを提案すること。

実験結果

リサーチクエスチョン

• RQ1 イベント抽出において、パイプライン型とジョイント型の深層学習パラダイムは、パフォーマンスと誤差伝搬の点でどのように異なるか？
• RQ2 イベントトリガーおよび引数役割分類に最も効果的な深層学習アーキテクチャと事前学習モデルは何か？
• RQ3 外部知識ソースとデータ拡張は、リソースが限られた環境におけるイベント抽出をどのように改善するか？
• RQ4 文書レベルおよびマルチイベントシナリオへのスケーリングにおける主な課題は何か？
• RQ5 医療および法的分野のような重要度の高い分野において、モデルの解釈性をどのように向上させられるか？

主な発見

• BERTベースのモデルは、強力な文脈表現学習の能力から、深層学習ベースのイベント抽出の主流となった。
• ジョイントモデリングアプローチは、トリガー分類や引数役割ラベル付けなどのサブタスク間の誤差伝搬を低減するため、パイプライン手法を上回る性能を示している。
• ACE 2005データセットは依然として標準ベンチマークであり、最先端のモデルは特定のイベントタイプにおいてF1スコア80％以上を達成している。
• マルチイベントおよび文書レベルのイベント抽出は、文レベル抽出と比較してまだ十分に検討されていないが、今後の重要なフロンティアとなっている。
• 解釈性は依然として主要な制限要因であり、特に重要度の高い分野では、引数役割予測の背後にある透明な推論を提供するモデルは少ない。
• 生物学的分野のような専門分野におけるドメイン適応は、専門用語の多さとアノテーションデータの不足により困難であり、より良い知識統合の必要性が示唆されている。