[論文レビュー] Zero-Shot Transfer Learning for Event Extraction

Lifu Huang, Heng Ji+2 more|arXiv (Cornell University)|Jul 4, 2017

Topic Modeling参考文献 35被引用数 13

ひとこと要約

本稿では、イベント抽出のゼロショット転移学習フレームワークを提案する。イベントタイプ分類を共有された意味的空間内でのグラウディング問題としてモデル化する。少量の既存のイベントタイプと既存のオントロジーを用いて訓練されたニューラルアーキテクチャにより、イベントの表出語とタイプを同時に埋め込むことで、追加のアノテーションなしに23種類の未学習イベントタイプにおいて、教師ありモデルと同等の性能を達成する。

ABSTRACT

Most previous event extraction studies have relied heavily on features derived from annotated event mentions, thus cannot be applied to new event types without annotation effort. In this work, we take a fresh look at event extraction and model it as a grounding problem. We design a transferable neural architecture, mapping event mentions and types jointly into a shared semantic space using structural and compositional neural networks, where the type of each event mention can be determined by the closest of all candidate types . By leveraging (1)~available manual annotations for a small set of existing event types and (2)~existing event ontologies, our framework applies to new event types without requiring additional annotation. Experiments on both existing event types (e.g., ACE, ERE) and new event types (e.g., FrameNet) demonstrate the effectiveness of our approach. extit{Without any manual annotations} for 23 new event types, our zero-shot framework achieved performance comparable to a state-of-the-art supervised model which is trained from the annotations of 500 event mentions.

研究の動機と目的

• 新しいイベントタイプごとに高コストなアノテーションを必要とする教師ありイベント抽出のスケーラビリティの制限を解消すること。
• 再トレーニングから再構築が必要なため、新しいイベントタイプに一般化できない従来の教師ありモデルの低い移植性を克服すること。
• 既存のイベントオントロジーと限定的な手動アノテーションを活用して、新しい未学習イベントタイプへのゼロショット転移を可能にすること。
• イベント表出語を共有された埋め込み空間内の最も近い意味的タイプにマッピングする、汎用的かつ転送可能なフレームワークを構築すること。
• イベントオントロジーに内在する豊富な意味的構造を活用することで、イベント抽出のカバレッジを数十種類から数千種類に拡大すること。

提案手法

• 抽象的意味表現（AMR）とイベントオントロジー定義を用いて、イベント表出語とタイプを構造的意味グラフとして表現する。
• 畳み込みニューラルネットワーク（CNN）を訓練し、イベント表出語とタイプの両方のAMRタプルを密なベクトル表現にエンコードする。
• ペアマッチングの距離を最小化するように、シアン型ニューラルアーキテクチャを用いて、イベント表出語とタイプを共有された意味的空間に同時に埋め込む。
• 少数の既存タイプに起因する過学習を防ぐために、ネガティブマイニングを組み込んだ新しい対照的損失関数を導入する。
• ゼロショット推論では、共有された埋め込み空間内でのコサイン類似度が最も高いタイプに各イベント表出語を割り当てる。
• 新たにアノテーションを必要とせずに、事前に存在するイベントオントロジー（例：ERE, FrameNet）を用いて未学習タイプとその引数役割構造を定義する。

実験結果

リサーチクエスチョン

• RQ1 新しい未学習イベントタイプに、手動アノテーションなしで効果的にイベント抽出を転送できるか？
• RQ2 少量の既存イベントタイプから学習した共有意味的空間が、既存のオントロジー内に数千種類の未学習タイプに一般化できる程度はどの程度か？
• RQ3 AMRにおける詳細な意味的関係（例：:location, :instrument）は、単純な意味的役割ラベリング（SRL）と比較して、ゼロショットイベントタイプ分類にどの程度の情報を提供するか？
• RQ4 大規模なアノテーションデータに依存する完全な教師ありモデルと比較して、本フレームワークの性能はどの程度か？
• RQ5 システム生成のAMRパースを用いた場合でも、本手法は頑健性を維持できるか？

主な発見

• 提案されたゼロショットフレームワークは、6種類の既存タイプの548例のアノテーションのみを用いて、23種類の未学習イベントタイプのトリガー分類で59.1% F1を達成し、500件のイベント表出語で学習した教師ありモデルと同等の性能を示した。
• 完全なAMRアノテーションを用いた場合、トリガー分類で79.1% F1、引数分類で47.1% F1を達成し、SRLベースのベースラインをそれぞれ2.0ポイントおよび0.1ポイント上回った。
• モデルは優れた一般化性能を示した：システム生成のAMRパースを用いても、トリガー分類で46.7% F1を達成し、パースエラーに対して頑健であることを示した。
• 詳細なAMR関係（例：:location, :instrument）はコアなSRL役割よりもより情報豊かで、トリガー分類のF1を0.7ポイント向上させた。
• ネガティブマイニングを組み込んだ対照的損失は、既存タイプの数が少ない状況でも過学習を効果的に抑制し、信頼性のあるゼロショット転送を可能にした。
• フレームワークは、FrameNetなどの既存オントロジーを活用することで、数千種類のタイプへのイベント抽出を成功裏に拡張し、従来の教師あり手法をはるかに超えるスケーラビリティを実現した。