[論文レビュー] Position Bias Mitigation: A Knowledge-Aware Graph Model for Emotion Cause Extraction

Hanqi Yan, Lin Gui+2 more|arXiv (Cornell University)|Jun 7, 2021

Topic Modeling参考文献 26被引用数 4

ひとこと要約

本稿では、ConceptNetからの常識的知識経路を用いて意味的依存関係をモデル化することで、感情原因抽出における位置バイアスを軽減する知識認識グラフモデル（KAG）を提案する。文のグラフを構築し、順序エッジ（S-エッジ）と知識エッジ（K-エッジ）を含め、ノード表現学習に拡張された関係GNN（Relation-GCN）を用いることで、元のデータセット上で最先端の性能を達成するとともに、位置的ヒントを混乱させる対抗的例に対して顕著に高い耐性を示す。

ABSTRACT

The Emotion Cause Extraction (ECE)} task aims to identify clauses which contain emotion-evoking information for a particular emotion expressed in text. We observe that a widely-used ECE dataset exhibits a bias that the majority of annotated cause clauses are either directly before their associated emotion clauses or are the emotion clauses themselves. Existing models for ECE tend to explore such relative position information and suffer from the dataset bias. To investigate the degree of reliance of existing ECE models on clause relative positions, we propose a novel strategy to generate adversarial examples in which the relative position information is no longer the indicative feature of cause clauses. We test the performance of existing models on such adversarial examples and observe a significant performance drop. To address the dataset bias, we propose a novel graph-based method to explicitly model the emotion triggering paths by leveraging the commonsense knowledge to enhance the semantic dependencies between a candidate clause and an emotion clause. Experimental results show that our proposed approach performs on par with the existing state-of-the-art methods on the original ECE dataset, and is more robust against adversarial attacks compared to existing models.

研究の動機と目的

• 既存のECEモデルが、データセットバイアスの影響を受けて、感情節からの相対的位置に依存して原因を予測する程度を調査すること。
• 位置的ヒントを混乱させる対抗的例を生成し、モデルの耐性をテストすること。
• 候補節と感情節間の意味的依存関係を強化するために、常識的知識を活用するグラフベースのモデルを開発すること。
• 特に原因節が感情節に近い場合に限らない状況において、位置特徴に依存するのを減らすことで一般化性能を向上させること。

提案手法

• 連続する節を結ぶ順序エッジ（S-エッジ）を含む節グラフを構築し、局所的文脈を捉える。
• 候補節と感情節のキーエンティティ間にConceptNet上に知識経路が存在する場合、それらを結ぶ知識エッジ（K-エッジ）を導入する。
• 文書レベルのアテンションを用いて感情文脈を統合するため、Bi-LSTMとTransformerエンコーダーを用いてノード特徴を初期化し、節表現を取得する。
• 節のエンティティ間のConceptNetからの知識経路を抽出し、それらをBi-LSTMで符号化して経路表現を生成する。
• S-エッジとK-エッジの両方からのメッセージを集約することで、ノード表現を更新する関係GNN（Relation-GCN）の拡張を実施し、順序的および知識ベースの依存関係を統合的にモデル化する。
• グラフニューラルネットワークの推論により節分類を実行し、原因節を予測する。この際、関連する経路や節を重みづけするアテンション機構を用いる。

実験結果

リサーチクエスチョン

• RQ1 既存のECEモデルは、原因予測において、節の相対的位置にどの程度依存しているか？
• RQ2 提案された対抗的例生成戦略は、位置に基づく誘導的バイアスをどの程度効果的に混乱させるか？
• RQ3 知識認識グラフモデルは、標準ベンチマークでの性能を維持しつつ、位置的ヒントへの依存を軽減できるか？
• RQ4 ConceptNetからの常識的知識の統合は、位置に依存しない対抗的例に対してモデルの耐性をどのように向上させるか？

主な発見

• 提案されたKAGモデルは、元のECEデータセット上で、48.52（マイクロ）および62.39（マクロ）という競争力のあるF1スコアを達成し、最先端の性能を再現した。
• 位置的ヒントが削除された対抗的例では、KAGは平均F1スコアの低下が16.97%にとどまり、他のモデルと比べて最も高い耐性を示した。
• PAE-DGL や RTHN などのモデルは、対抗的サンプルで最大33%の性能低下を示し、位置特徴に強く依存していることが示された。
• 事例研究により、KAGが「議論 → 争い → 怒り」や「性的虐待 → 憤り → 煩わせる → 怒り」のような複数の有効な知識経路を効果的に注目し、正しい原因節を特定できていることが確認された。
• モデルは関連する知識経路に注目するが、イベントレベルの推論に根拠のない誤った経路（例：「失業 → 情報 → 困難 → 忧慮」）に対しても反応するなど、限界が明らかになった。
• 本研究では、データセットバイアスが近接する原因に偏っているため、モデルが位置に過剰に適合してしまうことが確認され、知識強化型グラフモデリングがこの問題を緩和できることを示した。