[论文解读] A Question Answering Approach to Emotion Cause Extraction

Lin Gui, Jiannan Hu+4 more|arXiv (Cornell University)|Aug 18, 2017

Sentiment Analysis and Opinion Mining参考文献 30被引用 12

一句话总结

本文提出了一种基于问题回答（QA）的情感原因抽取方法，采用一种新型深度记忆网络，通过卷积记忆槽对序列上下文进行建模。通过将情感原因检测视为一个QA任务——其中情感词作为问题，文本作为故事——该模型在近期的情感原因数据集上实现了最先进性能，F-measure相比基线模型至少提升3.01%。

ABSTRACT

Emotion cause extraction aims to identify the reasons behind a certain emotion expressed in text. It is a much more difficult task compared to emotion classification. Inspired by recent advances in using deep memory networks for question answering (QA), we propose a new approach which considers emotion cause identification as a reading comprehension task in QA. Inspired by convolutional neural networks, we propose a new mechanism to store relevant context in different memory slots to model context information. Our proposed approach can extract both word level sequence features and lexical features. Performance evaluation shows that our method achieves the state-of-the-art performance on a recently released emotion cause dataset, outperforming a number of competitive baselines by at least 3.01% in F-measure.

研究动机与目标

• 为解决在文本中识别情感背后原因的挑战，该任务需要比情感分类更深层次的语义理解。
• 克服现有方法依赖手工规则或忽略情感词与其原因之间语义与关系信息的局限性。
• 将情感原因抽取建模为问题回答中的阅读理解任务，以更好地建模上下文和长距离依赖关系。
• 设计一种记忆网络架构，通过在多个记忆槽上进行卷积操作，显式捕捉序列上下文。
• 在基准情感原因数据集上实现最先进性能，证明QA启发框架的有效性。

提出的方法

• 该模型将情感原因抽取视为QA任务：给定一个情感词（例如‘sad’）作为问题，系统判断给定的文本段落是否包含该情感的原因。
• 采用深度记忆网络架构，输入包括一个文本段落（故事）和一个情感词（问题），两者均通过词嵌入表示。
• 网络使用多个记忆槽存储上下文表示，通过卷积操作建模序列依赖关系并保留局部上下文结构。
• 注意力机制计算文本中每个词与问题的相关性，使模型能够聚焦于与情感原因相关的显著短语。
• 最终答案根据聚合的上下文表示生成为‘yes’或‘no’，模型通过预测原因是否存在进行训练。
• 一种变体ConvMS-Memnet通过结合卷积特征学习与多槽记忆，提升了词级别原因检测性能。

实验结果

研究问题

• RQ1 情感原因抽取能否被有效建模为问题回答任务，从而在性能上超越传统信息抽取方法？
• RQ2 如何在记忆网络中显式建模序列上下文信息，以更好地识别情感原因？
• RQ3 在记忆槽中引入卷积操作是否能提升情感原因抽取中相关从句和关键词的识别能力？
• RQ4 所提出的模型在情感原因检测的F-measure指标上，相对于现有基线模型的性能提升程度如何？
• RQ5 训练深度（跳跃次数）和注意力机制对模型定位情感原因能力的影响如何？

主要发现

• 所提出的QA驱动模型在情感原因检测数据集上实现了最先进性能，相比竞争性基线模型，F-measure至少提升3.01%。
• ConvMS-Memnet变体通过在记忆槽中整合卷积操作，在关键词级别使F-measure相比基线Memnet提升5.6%。
• 模型在仅训练5个周期后，已能以高概率正确识别情感原因从句，表明收敛速度快。
• 注意力机制成功突出显示‘insistence’等关键词与情感原因的相关性，表明模型能有效聚焦于显著短语。
• 随着训练周期增加，模型性能持续提升，表明更深层次的学习能细化正确原因从句的检测，同时抑制错误从句。
• 模型在复杂语篇结构（如长距离依赖和否定句）上表现不佳，表明未来工作需增强语篇建模能力。