[論文レビュー] DEGREE: A Data-Efficient Generative Event Extraction Model

I-Hung Hsu, Kuan-Hao Huang+5 more|arXiv (Cornell University)|Aug 29, 2021

Topic Modeling参考文献 24被引用数 15

ひとこと要約

本稿では、イベント抽出をイベントタイプ固有のテンプレートを用いたテキスト生成タスクに定式化することで、データ効率的なイベント抽出モデルDEGREEを提案する。事前学習、自己回帰的生成、構造的テンプレートを活用することで、低データ環境下でも最先端の性能を達成し、より多くのデータがある場合でも競争力のある結果を示し、データが限られる設定で強力なベースラインを上回る性能を発揮する。

ABSTRACT

Event extraction (EE) aims to identify structured events, including event triggers and their corresponding arguments, from unstructured text. Most of the existing works rely on a large number of labeled instances to train models, while the labeled data could be expensive to be obtained. In this work, we present a data-efficient event extraction method by formulating event extraction as a natural language generation problem. The formulation allows us to inject knowledge of label semantics, event structure, and output dependencies into the model. Given a passage and an event type, our model learns to summarize this passage into a templated sentence in a predefined structure. The template is event-type-specific, manually created, and contains event trigger and argument information. Lastly, a rule-based algorithm is used to derive the trigger and argument predictions from the generated sentence. Our method inherently enjoys the following benefits: (1) The pretraining of the generative language models help incorporate the semantics of the labels for generative EE. (2) The autoregressive generation process and our end-to-end design for extracting triggers and arguments force the model to capture the dependencies among the output triggers and their arguments. (3) The predefined templates form concrete yet flexible rules to hint the models about the valid patterns for each event type, reducing the models' burden to learn structures from the data. Empirical results show that our model achieves superior performance over strong baselines on EE tasks in the low data regime and achieves competitive results to the current state-of-the-art when more data becomes available.

研究の動機と目的

• 大量のラベル付きデータに依存しないようにすることで、イベント抽出における高コストなアノテーション問題に対処する。
• 学習プロセスに構造的・意味的知識を組み込むことで、リソースが限られた環境下でのモデル一般化性能を向上させる。
• 統一された生成フレームワークを用いて、イベントトリガーと引数のエンドツーエンド同時抽出を可能にする。
• 手作業で作成されたイベントタイプ固有のテンプレートを用いることで、モデルがデータからイベント構造を学ぶ負担を軽減する。
• 自己回帰的生成により、トリガーと引数の間の依存関係を効果的にモデル化する。

提案手法

• モデルがイベントを記述するテンプレート文を生成するような、シーケンス・トゥ・シーケンスの生成タスクとしてイベント抽出を定式化する。
• トリガーと引数のスロットを埋め込んだ、イベントタイプ固有の手作業で設計されたテンプレートを用い、構造的な出力を実現する。
• ラベルの意味的性質と文脈理解を生成プロセスに組み込むために、事前学習済みの生成型言語モデルを活用する。
• トリガーと引数の間の依存関係をエンドツーエンドでモデル化するため、自己回帰的生成メカニズムを採用する。
• 生成された文から予測されたトリガーと引数を抽出するために、ルールベースの後処理ステップを適用する。
• テンプレートによる構造的インダクティブバイアスを統合することで、膨大なデータを必要とせずに、有効なイベントパターンへのモデルの導線をガイドする。

実験結果

リサーチクエスチョン

• RQ1 イベント抽出をテキスト生成タスクに定式化することで、リソースが限られた環境下でのデータ効率性が向上するか？
• RQ2 事前に定義されたイベントタイプ固有のテンプレートの使用は、モデルの生成をガイドし、性能向上にどの程度寄与するか？
• RQ3 自己回帰的生成は、イベントトリガーと引数の間の依存関係をどの程度効果的に捉えるのに寄与するか？
• RQ4 事前学習とテンプレートによるラベルの意味的性質と構造的知識の組み込みは、一般化性能の向上に寄与するか？
• RQ5 本手法は、低データ環境と高データ環境の両方で、強力なベースラインと比較してどの程度優れているか？

主な発見

• DEGREEは、低データ環境下のイベント抽出タスクにおいて、強力なベースラインを上回る優れた性能を達成する。
• より多くのラベル付きデータが利用可能な状況でも、最先端の手法と同等の競争力ある性能を維持する。
• テンプレートの使用により、モデルがデータからイベント構造を学ぶ必要が著しく減少し、データ効率性が向上する。
• 自己回帰的生成により、非生成的手法に比べてトリガーと引数の間の依存関係のモデル化がより効果的に行える。
• 大規模なテキストで事前学習することで、モデルがラベルの意味的性質を捉えることができ、リソースが限られた環境下での一般化性能が向上する。
• ルールベースの後処理ステップにより、生成された文から構造化された予測を高精度に抽出できる。