[論文レビュー] A Multi-turn Machine Reading Comprehension Framework with Rethink Mechanism for Emotion-Cause Pair Extraction

Changzhi Zhou, Dandan Song+2 more|arXiv (Cornell University)|Sep 16, 2022

Sentiment Analysis and Opinion Mining被引用数 5

ひとこと要約

本稿では、感情-原因ペair抽出（ECPE）のための、再考メカニズムを備えたマルチターン機械読解フレームワーク（MM-R）を提案する。ECPEをペairマトリクスに起因するラベルスパarsityを回避する文書レベルのMRCタスクに変換することで、明示的な意味的情報を活用し反復的精錬を実現する。マルチターンクエリと再考メカニズムを用いて候補ペアを検証することで、ECPEでSOTAのF1スコア80.62%を達成。

ABSTRACT

Emotion-cause pair extraction (ECPE) is an emerging task in emotion cause analysis, which extracts potential emotion-cause pairs from an emotional document. Most recent studies use end-to-end methods to tackle the ECPE task. However, these methods either suffer from a label sparsity problem or fail to model complicated relations between emotions and causes. Furthermore, they all do not consider explicit semantic information of clauses. To this end, we transform the ECPE task into a document-level machine reading comprehension (MRC) task and propose a Multi-turn MRC framework with Rethink mechanism (MM-R). Our framework can model complicated relations between emotions and causes while avoiding generating the pairing matrix (the leading cause of the label sparsity problem). Besides, the multi-turn structure can fuse explicit semantic information flow between emotions and causes. Extensive experiments on the benchmark emotion cause corpus demonstrate the effectiveness of our proposed framework, which outperforms existing state-of-the-art methods.

研究の動機と目的

• 感情-原因ペア抽出（ECPE）のためのエンドツーエンドのペアレベル手法に内在するラベルスパarsity問題に対処すること。
• 包括的なペアマトリクスに依存せずに、感情と原因の間の複雑で長距離に及ぶ依存関係をモデル化すること。
• 節からの明示的な意味的情報を活用して抽出精度を向上させること。
• 人間のインスピレーションを受ける二段階の読解プロセス（候補生成 → 検証）を通じて性能を向上させること。
• ECPEおよび関連する感情原因抽出（ECE）タスクに適用可能な堅牢でスケーラブルなフレームワークを開発すること。

提案手法

• ペアマトリクスの生成を回避するため、ECPEを文書レベルの機械読解（MRC）タスクに変換する。
• マルチターンMRC構造を採用：第1ターンで全感情節を抽出、第2ターンで静的および動的クエリを用いて各感情ごとに原因節を抽出。
• 第3ターンに再考メカニズムを導入し、節間のクロスアテンションを用いて候補感情-原因ペアの妥当性を再評価することで検証を行う。
• 自然言語、偽（pseudo）、構造的（structured）の3種類のクエリタイプをモデルの誘導に用い、自然言語クエリが最も高いパフォーマンスを示した。
• 文書とクエリをBERTベースのエンコーダーで符号化し、関連する節をアライメントするためのクロスアテンション機構を活用する。
• 再考フェーズで信頼度スコアに基づきしきい値ベースのフィルタリング機構を適用し、候補ペアを信頼性の高いものに精錬する。

実験結果

リサーチクエスチョン

• RQ1 ECPEをマルチターンMRCタスクに変換することで、ラベルスパarsityを低減しつつパフォーマンスを維持または向上させられるか？
• RQ2 反復的検証を通じて候補感情-原因ペアを精錬する再考メカニズムの有効性はどの程度か？
• RQ3 異なるクエリ言語設計（自然言語、偽、構造的）がECPEにおけるモデルパフォーマンスにどの程度の影響を与えるか？
• RQ4 節からの明示的な意味的情報を活用することで、エンドツーエンドのペアレベル手法に比べて抽出精度が向上するか？
• RQ5 提案フレームワークは、事前にアノテーションされた感情を有する感情原因抽出（ECE）タスクに一般化可能か？

主な発見

• MM-RフレームワークはECPEベンチマークでF1スコア80.62%を達成し、従来のSOTA手法を顕著に上回った。
• ベースとなるMMモデルと比較して、再考メカニズムはECPEタスクでF1を2.43%向上させ、予測の精錬に有効であることを示した。
• 自然言語クエリ設計は全タスクで最高のパフォーマンス（F1 > 79%）を示し、BERTの事前学習分布との整合性が高いため、偽および構造的クエリを上回った。
• ECEタスクでもF1 83.48%というSOTA性能を達成し、RTHN、RHNN、KAG、2-step RANKINGなどの手法を上回った。
• MM-Rモデルは、例のケーススタディで誤検出ペア（c3, c4）を正しく除外することで、偽陽性を低減した。これは再考メカニズムの価値を示している。
• 感情抽出は原因抽出よりも信頼性が高く、フレームワークは感情優先の抽出とその後の検証を重視することでその利点を活かした。