[論文レビュー] One for All: Neural Joint Modeling of Entities and Events

Trung Minh Nguyen, Thien Huu Nguyen|arXiv (Cornell University)|Dec 1, 2018

Topic Modeling参考文献 36被引用数 6

ひとこと要約

本稿では、共有の双方向RNN隠れ表現を用いて、エンティティメンション検出、イベントトリガー識別、およびアーギュメント役割予測を統合的に実行する包括的な深層学習モデルを提案する。独立したパイプラインからの誤差伝搬を排除し、エンドツーエンド学習を活用することで、手動で設計された特徴量に依存せず、ACE 2005データセット上で81.2（EMD）、69.8（ED）、52.1（ARP）の最先端のF1スコアを達成した。

ABSTRACT

The previous work for event extraction has mainly focused on the predictions for event triggers and argument roles, treating entity mentions as being provided by human annotators. This is unrealistic as entity mentions are usually predicted by some existing toolkits whose errors might be propagated to the event trigger and argument role recognition. Few of the recent work has addressed this problem by jointly predicting entity mentions, event triggers and arguments. However, such work is limited to using discrete engineering features to represent contextual information for the individual tasks and their interactions. In this work, we propose a novel model to jointly perform predictions for entity mentions, event triggers and arguments based on the shared hidden representations from deep learning. The experiments demonstrate the benefits of the proposed method, leading to the state-of-the-art performance for event extraction.

研究の動機と目的

• エンティティメンション検出の誤差が後続のトリガーおよびアーギュメント予測に影響を及ける、従来のパイプライン型イベント抽出システムにおける誤差伝搬を是正すること。
• 共有隠れ表現を通じて、エンティティメンション検出、イベントトリガー検出、およびアーギュメント役割予測の間での知識共有と相互作用を可能にすること。
• 依存構文パスやガジェットリーなどの手動特徴量に依存しないエンドツーエンドニューラルモデルを構築すること。
• 離散的特徴量設計の代わりに、深層学習を用いてすべての3つのサブタスクを統合的にモデリングすることで、イベント抽出のパフォーマンスを向上させること。

提案手法

• 文内のすべての語に対して共有の双方向RNNを用いて、文全体の文脈的依存関係を捉える共有隠れ表現を生成する。
• エンティティメンション検出、イベントトリガー検出、アーギュメント役割予測の予測を、すべて共有隠れ状態から直接行う。
• 3つのサブタスク間のラベル依存関係をモデル化するために、共同CRF層を採用し、一貫性を向上させるとともに誤差伝搬を低減する。
• 3つのサブタスクの目的関数を統合したジョイント損失関数を用いて、モデル全体をエンドツーエンドで訓練する。
• 単語埋め込みとRNNアーキテクチャから直接文脈表現を学習することで、外部特徴量への依存を排除する。
• 注目メカニズムを活用して、各予測タスクに適した関連文脈に焦点を当て、表現品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 共有の深層表現を用いたエンティティメンション検出、イベントトリガー検出、アーギュメント役割予測の統合的モデリングは、パイプライン型アプローチを上回る性能を達成できるか？
• RQ2 単一のエンドツーエンド深層学習モデルは、イベント抽出において、手動特徴量の必要性をどの程度代替できるか？
• RQ3 共有隠れ表現学習は、個別にモデリングする場合と比較して、3つのサブタスク全体のパフォーマンスをどの程度向上させるか？
• RQ4 外部特徴量を削除した場合のモデルパフォーマンスへの影響は何か？また、純粋なニューラルアプローチでも最先端の結果を達成できるか？

主な発見

• 提案されたエンドツーエンド深層学習モデルは、ACE 2005データセット上でエンティティメンション検出で81.2、イベントトリガー検出で69.8、アーギュメント役割予測で52.1の最先端F1スコアを達成した。
• 外部特徴量を一切使用しないにもかかわらず、手動特徴量に強く依存する最先端モデルと同等の性能を発揮し、特にアーギュメント予測ではJoint-Feature-Documentより1.9%高い性能を示した。
• 3つのサブタスクを同時に学習することで誤差伝搬を低減し、共有文脈表現のおかげでトリガー識別とアーギュメント分類の両方が向上した。
• 誤差分析の結果、主な課題はレアトリガー（例：'intifada'）の検出と、類似役割（例：Place vs. Destination）の混同に起因しており、アーキテクチャの改善の余地があることが示された。
• 外部特徴量の削除によるパフォーマンス低下は限定的であり、共有表現学習アプローチの頑健性と一般化能力が裏付けられた。