[論文レビュー] Doc2EDAG: An End-to-End Document-level Framework for Chinese Financial Event Extraction

Shun Zheng, Wei Cao+2 more|arXiv (Cornell University)|Apr 16, 2019

Topic Modeling参考文献 34被引用数 4

ひとこと要約

本稿では、文書レベルの文脈を活用し、エンティティベースの有向無閉路グラフ（EDAG）生成としてイベント抽出を定式化する、中国語財務公告向けのエンド・ツー・エンド文書レベルイベント抽出フレームワーク、Doc2EDAGを提案する。文書レベルのコンテキスト符号化とメモリ拡張パス拡張機構を活用することで、特に複数イベントおよび引数散在ケースにおいて、最先端手法を大きく上回り、EOイベントタイプでは最良のベースライン比で最大28.4のF1向上を達成した。

ABSTRACT

Most existing event extraction (EE) methods merely extract event arguments within the sentence scope. However, such sentence-level EE methods struggle to handle soaring amounts of documents from emerging applications, such as finance, legislation, health, etc., where event arguments always scatter across different sentences, and even multiple such event mentions frequently co-exist in the same document. To address these challenges, we propose a novel end-to-end model, Doc2EDAG, which can generate an entity-based directed acyclic graph to fulfill the document-level EE (DEE) effectively. Moreover, we reformalize a DEE task with the no-trigger-words design to ease the document-level event labeling. To demonstrate the effectiveness of Doc2EDAG, we build a large-scale real-world dataset consisting of Chinese financial announcements with the challenges mentioned above. Extensive experiments with comprehensive analyses illustrate the superiority of Doc2EDAG over state-of-the-art methods. Data and codes can be found at https://github.com/dolphin-zs/Doc2EDAG.

研究の動機と目的

• 財務文書に一般的に見られる引数散在および複数イベントの状況を扱う上で、文単位のイベント抽出の限界を是正すること。
• トリガー語に依存せず、キーアイテム文のヒューリスティクスに依存しない文書レベルのエンド・ツー・エンドイベント抽出モデルを提案すること。
• 文書レベルイベント抽出用にアノテートされた、中国語財務公告の大規模かつ現実世界のデータセットを構築すること。
• 複雑なイベント構造を扱う上で、文書レベルコンテキストとメモリ拡張パス拡張のエンド・ツー・エンドモデリングの有効性を評価すること。
• 遠隔監視ベースのラベリングにおける、トリガー語を不要とする形式化の優位性を示すこと。

提案手法

• Doc2EDAGは、文書レベルのイベント抽出をエンティティベースの有向無閉路グラフ（EDAG）の生成として定式化し、テーブル埋めのタスクを段階的パス拡張サブタスクに変換する。
• 長距離依存関係を文間を跨いで捉えるために、Transformerベースのエンコーダーを用いて文書レベルのエンティティ表現を生成する。
• EDAG構築中に経路状態を維持・更新するためのメモリ機構を導入し、部分的なイベント構造の効果的な追跡を可能にする。
• 訓練中に順次予測エンティティを入力に組み込むことで、訓練と推論の分布シフトを軽減する目的でスケジューリングサンプリングを用いる。
• トリガー語ラベリングやキーアイテム文検出を必要とせず、生ドキュメントから直接イベントテーブルを予測するエンド・ツー・エンドで訓練する。
• トリガー語ラベルの必要性を排除した新たな形式化を導入し、DEEを直接テーブル埋めとして扱うことで、ラベリングの簡素化とイベント抽出の最終的目標との整合性向上を実現する。

実験結果

リサーチクエスチョン

• RQ1 キーアイテム文検出とヒューリスティクスによる引数補完に依存する二段階的手法よりも、エンド・ツー・エンドの文書レベルイベント抽出モデルが優れた性能を発揮できるか？
• RQ2 メモリ拡張パス拡張を用いたEDAG生成戦略は、引数散在および複数イベントの状況においてどれほど有効か？
• RQ3 トリガー語ラベルの必要性を排除することで、遠隔監視ベースのDEEにおける頑健性と性能が向上するか？
• RQ4 文書レベルコンテキスト符号化は、文間を跨ぐ引数解消および複数イベントの処理能力をどの程度向上させるか？
• RQ5 スケジューリングサンプリング戦略は、順次パス拡張における訓練と推論の乖離をどの程度軽減できるか？

主な発見

• EFイベントタイプにおいて、最良のベースライン（DCFEE-O）比で19.1のF1スコア向上を達成し、引数散在ケースにおける強力な性能を示した。
• 複数イベントテストセットでは、DCFEE-O比で17.7のF1スコア向上を達成し、重複する複雑なイベント構造の処理における有効性を強力に示した。
• アブレーションスタディの結果、メモリ機構を削除すると4つのイベントタイプで10以上のF1ポイントの性能低下が生じ、経路追跡におけるその重要性を裏付けた。
• スケジューリングサンプリングにより平均F1が5ポイント向上し、訓練と推論の分布シフト軽減における価値を確認した。
• 文書レベルエンティティ符号化は平均で2.1のF1ポイントの貢献を示し、グローバルコンテキストがエンティティ表現の質を向上させることを示した。
• パス拡張におけるより高い負例クラスの重み付けを用いることで、誤検出を低減し、全イベントタイプにわたり安定的で測定可能な改善が得られた。