[論文レビュー] ECSP: A New Task for Emotion-Cause Span-Pair Extraction and Classification

Hongliang Bi, Pengyuan Liu|arXiv (Cornell University)|Mar 7, 2020

Sentiment Analysis and Opinion Mining参考文献 19被引用数 7

ひとこと要約

本稿では、感情と原因のスパンを文節レベルではなくスパンレベルで抽出する新規タスクであるECSP（Emotion-Cause Span-Pair Extraction and Classification）を紹介する。このタスクでは、感情の種類も分類する。著者らは、BERTを用いたスパンベースの抽出・分類（ETC）モデルを提案し、ECEおよびECPEベンチマークで最先端の性能を達成するとともに、新規のECSPタスクにおいても優れた結果を示した。

ABSTRACT

Emotion cause analysis such as emotion cause extraction (ECE) and emotion-cause pair extraction (ECPE) have gradually attracted the attention of many researchers. However, there are still two shortcomings in the existing research: 1) In most cases, emotion expression and cause are not the whole clause, but the span in the clause, so extracting the clause-pair rather than the span-pair greatly limits its applications in real-world scenarios; 2) It is not enough to extract the emotion expression clause without identifying the emotion categories, the presence of emotion clause does not necessarily convey emotional information explicitly due to different possible causes. In this paper, we propose a new task: Emotion-Cause Span-Pair extraction and classification (ECSP), which aims to extract the potential span-pair of emotion and corresponding causes in a document, and make emotion classification for each pair. In the new ECSP task, ECE and ECPE can be regarded as two special cases at the clause-level. We propose a span-based extract-then-classify (ETC) model, where emotion and cause are directly extracted and paired from the document under the supervision of target span boundaries, and corresponding categories are then classified using their pair representations and localized context. Experiments show that our proposed ETC model outperforms the SOTA model of ECE and ECPE task respectively and gets a fair-enough results on ECSP task.

研究の動機と目的

• 文節レベルの感情・原因抽出には部分的表現を捉えられず、感情の種類分類が欠如しているという限界を是正すること。
• 感情と原因のスパンを抽出し、その感情の種類を分類する新規タスク「感情・原因スパンペア抽出と分類（ECSP）」を提案すること。
• 局所的文脈とスパン表現を活用することで一般化性能を向上させ、感情の一貫性を回避する統合的でスパンベースのモデルを開発すること。
• ベンチマークデータセットを用いた広範な実験を通じて、ECSPの実現可能性と有効性を示すこと。

提案手法

• 境界の監視を用いて感情および原因のスパンを特定し、ペア表現を用いてその感情の種類を分類するスパンベースの抽出・分類（ETC）モデルを提案する。
• 文脈表現を捕捉できるように、BERTをバックボーンとして用い、長距離依存関係や文間関係を捉える。
• アテンションメカニズムを活用してスパン間の相互作用をモデル化し、エンド・トゥ・エンドでスパンペアの抽出と感情分類を同時に学習する。
• 感情および原因のスパンを同時に検出することで相互監視を強化するマルチタスク学習の枠組みを採用する。
• 各スパンの周辺の局所的文脈を用いることで表現の質を向上させ、感情分類における曖昧さを低減する。
• 文節レベルとスパンレベルの両方の検索スキームで評価し、ETCモデルのロバストネスとスケーラビリティを評価する。

実験結果

リサーチクエスチョン

• RQ1 部分的な感情表現を含む実世界の応用において、スパンレベルの感情・原因ペア抽出が文節レベルの抽出を上回るか？
• RQ2 独立的または逐次的なアプローチと比較して、スパン抽出と感情分類を統合することで性能が向上するか？
• RQ3 統合モデルが感情表現の検出と原因特定の両方を効果的に処理し、高い再現率とF1スコアを維持できるか？
• RQ4 感情原因データセットに一般的に見られるクラス不均衡状態において、モデルの性能はどの程度保たれるか？
• RQ5 局所的スパン表現を用いることで、感情分類の正確性が向上し、感情の一貫性がどの程度低減されるか？

主な発見

• 提案されたETCモデルはECEタスクでF1スコア89.57を達成し、感情アノテーションが削除された場合にF1スコアが34.69に低下するSOTAモデル（CANN-E）を著しく上回った。
• ETCモデルは表現文節抽出で11.57%、原因文節抽出で24.77%、ECPEで24.5%の再現率向上を、最良のベースラインと比較して達成した。
• ETCモデルはECSPタスクにおいても公平なF1スコアを維持したため、文節レベル抽出を超えた新タスクの実現可能性が裏付けられた。
• ETCモデルはECSPタスクで77.06のF1スコアを達成し、スパンレベルおよび文節レベルの抽出に一般化できる能力を示した。
• 検索長が増加する状況でもモデルの性能が安定しており、スケーラビリティとさらなる改善の可能性を示した。
• BERTベースの局所的文脈とスパン表現の使用により、感情の一貫性が顕著に低減され、分類の正確性が向上した。