[论文解读] A Multi-turn Machine Reading Comprehension Framework with Rethink Mechanism for Emotion-Cause Pair Extraction

Changzhi Zhou, Dandan Song+2 more|arXiv (Cornell University)|Sep 16, 2022

Sentiment Analysis and Opinion Mining被引用 5

一句话总结

该论文提出了一种带有重思机制的多轮机器阅读理解框架（MM-R），用于情感-原因对抽取（ECPE），将ECPE转化为文档级MRC任务，以避免配对矩阵带来的标签稀疏问题。通过使用多轮查询和重思机制来验证候选对，MM-R在ECPE上实现了80.62%的SOTA F1分数，通过利用显式语义信息和迭代优化，显著优于先前方法。

ABSTRACT

Emotion-cause pair extraction (ECPE) is an emerging task in emotion cause analysis, which extracts potential emotion-cause pairs from an emotional document. Most recent studies use end-to-end methods to tackle the ECPE task. However, these methods either suffer from a label sparsity problem or fail to model complicated relations between emotions and causes. Furthermore, they all do not consider explicit semantic information of clauses. To this end, we transform the ECPE task into a document-level machine reading comprehension (MRC) task and propose a Multi-turn MRC framework with Rethink mechanism (MM-R). Our framework can model complicated relations between emotions and causes while avoiding generating the pairing matrix (the leading cause of the label sparsity problem). Besides, the multi-turn structure can fuse explicit semantic information flow between emotions and causes. Extensive experiments on the benchmark emotion cause corpus demonstrate the effectiveness of our proposed framework, which outperforms existing state-of-the-art methods.

研究动机与目标

• 解决端到端配对级别方法在情感-原因对抽取（ECPE）中固有的标签稀疏问题。
• 在不依赖完整配对矩阵的情况下，建模情感与原因之间的复杂长距离依赖关系。
• 利用从分句中提取的显式语义信息以提高抽取准确率。
• 通过模拟人类的两阶段阅读过程（候选生成后验证）来提升性能。
• 开发一种稳健且可扩展的框架，适用于ECPE及相关的感情原因抽取（ECE）任务。

提出的方法

• 将ECPE转化为文档级机器阅读理解（MRC）任务，避免生成完整的配对矩阵。
• 采用多轮MRC结构：第一轮抽取所有情感分句，第二轮针对每个情感使用静态和动态查询抽取原因分句。
• 在第三轮引入重思机制，通过分句间的交叉注意力重新评估候选情感-原因对的有效性，以验证其合理性。
• 使用三种查询类型——自然语言、伪标签和结构化——来引导模型，其中自然语言查询表现最佳。
• 利用基于BERT的编码器对文档和查询进行编码，并通过交叉注意力机制对齐相关分句。
• 在重思阶段应用基于阈值的过滤机制，根据置信度分数对候选对进行精炼。

实验结果

研究问题

• RQ1 将ECPE转化为多轮MRC任务是否能在减少标签稀疏性的同时保持或提升性能？
• RQ2 重思机制在通过迭代验证改进候选情感-原因对方面有多高效？
• RQ3 不同查询语言设计（自然语言、伪标签、结构化）在ECPE中的性能影响有多大？
• RQ4 与端到端配对级别方法相比，利用分句中的显式语义信息是否能提升抽取准确率？
• RQ5 所提出的框架在预标注情感的条件下，能否泛化到情感原因抽取（ECE）任务？

主要发现

• MM-R框架在ECPE基准上实现了80.62%的F1分数，显著优于先前的SOTA方法。
• 与基础MM模型相比，重思机制在ECPE任务上将F1提升了2.43%，证明其在优化预测结果方面的有效性。
• 自然语言查询设计在所有任务中均表现最佳（F1 > 79%），优于伪标签和结构化查询，因其与BERT预训练分布更匹配。
• 在ECE任务上，该模型实现了83.48%的F1分数，超越RTHN、RHNN、KAG和2-step RANKING等方法，达到SOTA性能。
• MM-R模型通过过滤无效对（如在案例研究中正确拒绝(c3, c4)）显著减少了假阳性，证明了重思机制的价值。
• 情感抽取比原因抽取更可靠，该框架通过优先进行情感优先抽取并随后验证，充分利用了这一特性。