[论文解读] ECSP: A New Task for Emotion-Cause Span-Pair Extraction and Classification

Hongliang Bi, Pengyuan Liu|arXiv (Cornell University)|Mar 7, 2020

Sentiment Analysis and Opinion Mining参考文献 19被引用 7

一句话总结

本文提出了ECSP（情感-原因跨度对抽取与分类）这一新任务，该任务在跨度级别而非从句级别抽取情感与原因跨度，并对情感类别进行分类。作者提出了一种基于BERT的基于跨度的‘抽取-分类’（ETC）模型，联合进行跨度对抽取与情感分类，在ECE和ECPE基准上实现了最先进性能，同时在新提出的ECSP任务上也展现出优异表现。

ABSTRACT

Emotion cause analysis such as emotion cause extraction (ECE) and emotion-cause pair extraction (ECPE) have gradually attracted the attention of many researchers. However, there are still two shortcomings in the existing research: 1) In most cases, emotion expression and cause are not the whole clause, but the span in the clause, so extracting the clause-pair rather than the span-pair greatly limits its applications in real-world scenarios; 2) It is not enough to extract the emotion expression clause without identifying the emotion categories, the presence of emotion clause does not necessarily convey emotional information explicitly due to different possible causes. In this paper, we propose a new task: Emotion-Cause Span-Pair extraction and classification (ECSP), which aims to extract the potential span-pair of emotion and corresponding causes in a document, and make emotion classification for each pair. In the new ECSP task, ECE and ECPE can be regarded as two special cases at the clause-level. We propose a span-based extract-then-classify (ETC) model, where emotion and cause are directly extracted and paired from the document under the supervision of target span boundaries, and corresponding categories are then classified using their pair representations and localized context. Experiments show that our proposed ETC model outperforms the SOTA model of ECE and ECPE task respectively and gets a fair-enough results on ECSP task.

研究动机与目标

• 为解决从句级别情感-原因抽取的局限性，即无法捕捉部分跨度且缺乏情感类别分类的问题。
• 提出一项新任务——情感-原因跨度对抽取与分类（ECSP），以抽取情感与原因跨度并对其情感类别进行分类。
• 开发一种统一的基于跨度的模型，通过利用局部上下文和跨度表示，提升泛化能力并避免情感不一致。
• 通过在基准数据集上的大量实验，证明ECSP的可行性和有效性。

提出的方法

• 提出一种基于跨度的抽取-分类（ETC）模型，通过边界监督识别情感与原因跨度，并利用对表示对情感类别进行分类。
• 使用BERT作为主干网络，编码上下文表示，使模型能够捕捉长距离依赖关系和跨句关系。
• 端到端训练模型，联合进行跨度对抽取与情感分类，利用注意力机制建模跨度之间的交互。
• 采用多任务学习设置，同时检测情感与原因跨度，提升相互监督效果。
• 利用每个跨度周围的局部上下文增强表示质量，降低情感分类中的歧义性。
• 在从句级别与跨度级别两种搜索方案下进行评估，以检验ETC模型的鲁棒性与可扩展性。

实验结果

研究问题

• RQ1 在存在部分情感表达的真实应用场景中，跨度级别的情感-原因对抽取是否能优于从句级别的抽取？
• RQ2 与独立或顺序方法相比，联合进行跨度抽取与情感分类是否能提升性能？
• RQ3 统一模型是否能有效同时处理情感表达检测与原因识别，同时保持高召回率与F1分数？
• RQ4 在情感原因数据集中常见的类别不平衡条件下，模型表现如何？
• RQ5 使用局部化跨度表示在多大程度上能提升情感分类准确率并减少情感不一致？

主要发现

• 所提出的ETC模型在ECE任务上达到89.57的F1分数，显著优于SOTA模型（CANN-E），后者在移除情感标注后F1降至34.69。
• 与最佳基线相比，ETC模型在表达从句抽取中召回率提升11.57%，在原因从句抽取中提升24.77%，在ECPE中提升24.5%。
• 模型在ECSP任务上保持了良好性能，F1分数合理，证明了该新任务在从句级别抽取之外的可行性。
• ETC模型在ECSP任务上取得77.06的F1分数，表明其在跨度级别与从句级别抽取之间具有良好的泛化能力。
• 随着搜索长度增加，模型性能保持稳定，表明其具备良好的可扩展性，并有进一步提升潜力。
• 使用基于BERT的局部上下文与跨度表示显著降低了情感不一致现象，并提升了分类准确率。