[論文レビュー] Efficient Document-level Event Extraction via Pseudo-Trigger-aware Pruned Complete Graph

Tong Zhu, Xiaoye Qu+5 more|arXiv (Cornell University)|Dec 11, 2021

Topic Modeling被引用数 9

ひとこと要約

本稿では、効率的な引数組み合わせのためのプルーニング済み完全グラフを構築するために擬似トリガーを用いる非自己回帰的文書レベルイベント抽出モデル、PTPCGを提案する。このモデルは、パラメータ数の19.8%、トレーニング時間の3.8%で競争力ある性能を達成し、最先端の自己回帰的モデルと比較して推論を最大8.5倍高速化する。

ABSTRACT

Most previous studies of document-level event extraction mainly focus on building argument chains in an autoregressive way, which achieves a certain success but is inefficient in both training and inference. In contrast to the previous studies, we propose a fast and lightweight model named as PTPCG. In our model, we design a novel strategy for event argument combination together with a non-autoregressive decoding algorithm via pruned complete graphs, which are constructed under the guidance of the automatically selected pseudo triggers. Compared to the previous systems, our system achieves competitive results with 19.8\\% of parameters and much lower resource consumption, taking only 3.8\\% GPU hours for training and up to 8.5 times faster for inference. Besides, our model shows superior compatibility for the datasets with (or without) triggers and the pseudo triggers can be the supplements for annotated triggers to make further improvements. Codes are available at https://github.com/Spico197/DocEE .

研究の動機と目的

• 文書レベルイベント抽出（DEE）における自己回帰的デコードの非効率性、特に高い計算リソース消費と長時間のトレーニング／推論時間を解消すること。
• トリガーに依存する・しない両方のDEE状況においても効果的に機能する汎用的な引数組み合わせ戦略の開発。
• パラメータ数とリソース消費を著しく削減しながらも高い性能を維持する軽量な非自己回帰的モデルの設計。
• アノテート済みトリガーの代わりや補完として、自動的に選択された擬似トリガーの使用を検討し、データセット間での耐性と互換性を向上させること。

提案手法

• 主要な引数を擬似トリガーとして特定し、それらを双方向に接続する一方で、他の引数はこれらの擬似トリガーから一方向に接続するプルーニング済み完全グラフを構築する。
• 引数組み合わせの正確さに与える寄与度を評価する新しい重要度スコア指標を用いて、擬似トリガーを自動的に選択する。
• プルーニング済み完全グラフに非自己回帰的デコード戦略を適用し、引数組み合わせの自己回帰的生成を経由せずにエンドツーエンドのトレーニングと推論を可能にする。
• イベントタイプとエンティティ抽出のための共有BiLSTMエンコーダーを用い、その後、ペアワイズ類似度計算によりプルーニンググラフの隣接行列を構築する。
• 隣接行列予測は交差エントロピー損失を最適化することで行い、最終的なイベント記録は予測されたイベントタイプとデコードされた引数組み合わせをペアリングすることで生成する。
• アーキテクチャは柔軟性を備えており、1イベントあたり1つの擬似トリガーを使用する場合、トリガー中心の木構造に簡略化され、文レベルEEパラダイムとも互換性を持つ。

実験結果

リサーチクエスチョン

• RQ1 プルーニング済み完全グラフに基づく非自己回帰的デコード戦略は、トレーニングおよび推論コストを著しく削減しながら、文書レベルイベント抽出で競争力ある性能を達成できるか？
• RQ2 自動的に選択された擬似トリガーは、トリガーなしまたはトリガ品質が低いDEEデータセットにおいて、アノテート済みトリガーを置き換えるか補完するのにどの程度有効か？
• RQ3 引数組み合わせの正確さと隣接行列予測の観点から、擬似トリガーの数とモデル性能のトレードオフはどのようなものか？
• RQ4 本手法は、アーキテクチャの変更なしに、トリガーに依存する・しない両方のDEE設定に一般化可能か？
• RQ5 重要度スコア指標は、効果的な擬似トリガー選択を導くのにどの程度有効か、全体の引数組み合わせデコード性能にどのように寄与するか？

主な発見

• PTPCGモデルは、文書レベルイベント抽出ベンチマークで競争力あるF1スコアを達成し、ChFinAnnではマイクロ平均F1が79.4を記録し、最先端の自己回帰的モデルと同等の性能を示す。
• モデルは、前例のSOTAモデルが要するパラメータの19.8%、GPU時間の3.8%でのみ運用され、トレーニングコストを96.2%削減する。
• 自己回帰的モデルと比較して、推論速度が最大8.5倍向上し、実世界のデプロイに非常に効率的である。
• より多くの擬似トリガーを用いるモデルは、デコードエラーの上限が高くなるが、隣接行列の正確さが低下する傾向にあり、カバレッジと信頼性のトレードオフが顕在化している。
• 重要度スコア指標は、高品質な擬似トリガーを効果的に特定できており、固定またはランダムなトリガー選択よりも優れた性能を示すモデルが得られる。
• 擬似トリガーは、トリガーがアノテート済みの設定でも性能を向上させることができ、アノテート済みトリガーに依存するモデルを上回る性能を発揮する。