[論文レビュー] Improving Event Causality Identification via Self-Supervised Representation Learning on External Causal Statement

Xinyu Zuo, Pengfei Cao+5 more|arXiv (Cornell University)|Jun 3, 2021

Topic Modeling参考文献 35被引用数 7

ひとこと要約

本稿では、外部の因果文を活用してイベント因果関係識別（ECI）を向上させる自己教師付き表現学習フレームワーク、CauSeRLを提案する。対照的自己教師付き学習により文脈に特化した因果パターンを学習し、対照的知識蒸留戦略を用いてそれらを転移することで、CauSeRLは最先端の性能を達成し、EventStoryLineおよびCausal-TimeBankの両方でF1スコアをそれぞれ+2.0および+3.4向上させた。

ABSTRACT

Current models for event causality identification (ECI) mainly adopt a supervised framework, which heavily rely on labeled data for training. Unfortunately, the scale of current annotated datasets is relatively limited, which cannot provide sufficient support for models to capture useful indicators from causal statements, especially for handing those new, unseen cases. To alleviate this problem, we propose a novel approach, shortly named CauSeRL, which leverages external causal statements for event causality identification. First of all, we design a self-supervised framework to learn context-specific causal patterns from external causal statements. Then, we adopt a contrastive transfer strategy to incorporate the learned context-specific causal patterns into the target ECI model. Experimental results show that our method significantly outperforms previous methods on EventStoryLine and Causal-TimeBank (+2.0 and +3.4 points on F1 value respectively).

研究の動機と目的

• 未観測の事例への一般化を妨げる、イベント因果関係識別（ECI）におけるラベル付きデータの不足という問題に対処すること。
• ラベル付きデータセットに存在しない、文脈に特化した因果パターンを、大規模でアノテーションのない外部因果文から学習すること。
• 人間によるアノテーション例に依存せず、学習した因果パターンをターゲットECIモデルに効果的に転送する手法を開発すること。
• 特にラベル付きデータが限られる低リソース環境においても、ECIモデルの一般化性能とロバスト性を向上させること。

提案手法

• アノテーションのない外部因果文から文脈に特化した因果パターンを抽出するための自己教師付き対照的学習フレームワークを設計する。
• 二重エンコーダー構造を用い、2つのサンプルされた因果文を比較することで、潜在的な因果構造を捉える共有表現を学習する。
• 教師モデル（自己教師付きエンコーダー）が生徒モデル（ECIモデル）をガイドする対照的転送戦略を適用する。
• 教師と生徒の表現間の相互情報量を最大化することで、因果知識の効果的転送を保証する。
• 微調整の過程で自己教師付きエンコーダーを固定し、表現学習の安定性を維持するとともに崩壊を防ぐ。
• バックボーンエンコーダーとしてBERTまたはBiLSTMを用いるが、自己教師付き学習では微調整による勾配干渉を避けるためにBiLSTMを推奨する。

実験結果

リサーチクエスチョン

• RQ1 外部因果文における自己教師付き表現学習は、未学習のイベントペアにおける因果関係の識別を改善できるか？
• RQ2 対照的転送は、外部の文から得た文脈に特化した因果パターンを下流のECIモデルに効果的に転送できるか？
• RQ3 外部因果文を活用することは、それらのデータに対する直接的な微調整や従来の特徴ベース手法を上回る効果を示すか？
• RQ4 本手法は、ラベル付きデータが限られる低リソース環境においてどの程度一般化できるか？

主な発見

• CauSeRLはEventStoryLineおよびCausal-TimeBankの両方で最先端の性能を達成し、それぞれF1スコアを+2.0および+3.4向上させた。
• 自己教師付き表現学習（SelfRL）のコンponentを削除すると、性能が著しく低下し、文脈に特化した因果パターンを捉える上でその重要性が確認された。
• 対照的転送戦略（ConRT）は不可欠である：これを削除すると顕著な性能低下が生じ、学習済み表現を直接使用するだけでは効果が薄いことが示された。
• 外部文での事前学習がなくても、対照的転送戦略そのものがECI性能を向上させることを示しており、知識蒸留の有効性が裏付けられた。
• Causal-TimeBank（ラベル付きデータが少ない）においても、モデルの性能が顕著に向上した。これは、低リソース状況において本手法の価値が顕著に現れていることを示している。
• 事例研究では、外部因果文がモデルの信頼性を向上させ、たとえば「noticed」と「alerted」の間の誤分類を是正するなど、関係の誤識別を是正した。