[论文解读] Multi-task Coupled Attentions for Category-specific Aspect and Opinion Terms Co-extraction.

Wenya Wang, Sinno Jialin Pan+1 more|arXiv (Cornell University)|Feb 6, 2017

Sentiment Analysis and Opinion Mining被引用 4

一句话总结

本文提出了一种用于类别特定方面和观点词联合抽取的多任务耦合注意力模型，通过在多个任务中联合学习方面和观点词识别以及类别分类，实现了最先进的性能。通过利用共享表征和任务间关系，该模型在三个基准数据集上有效缓解了数据稀疏性问题，并实现了更细粒度的情感分析。

ABSTRACT

In aspect-based sentiment analysis, most existing methods either focus on aspect/opinion terms extraction or aspect terms categorization. However, each task by itself only provides partial information to end users. To generate more detailed and structured opinion analysis, we propose a finer-grained problem, which we call category-specific aspect and opinion terms extraction. This problem involves the identification of aspect and opinion terms within each sentence, as well as the categorization of the identified terms. To this end, we propose an end-to-end multi-task attention model, where each task corresponds to aspect/opinion terms extraction for a specific category. Our model benefits from exploring the commonalities and relationships among different tasks to address the data sparsity issue. We demonstrate its state-of-the-art performance on three benchmark datasets.

研究动机与目标

• 为解决现有基于方面的情感分析方法将方面和观点词抽取或分类视为孤立任务的局限性。
• 通过在句子内联合识别方面和观点词并将其分类到预定义类别中，实现更细粒度的观点分析。
• 通过利用多个相关任务之间的共享表征和关系，缓解低资源类别中的数据稀疏性问题。
• 开发一种端到端深度学习框架，通过耦合注意力机制建模任务间依赖关系。
• 在类别特定方面和观点词联合抽取的标准基准数据集上展示优越性能。

提出的方法

• 该模型采用多任务学习框架，其中每个任务对应于特定情感类别的方面或观点词抽取。
• 使用共享编码器处理输入句子，为每个标记提取上下文表征。
• 应用耦合注意力机制以建模方面和观点词抽取任务之间的依赖关系，增强跨任务的特征学习。
• 应用任务特定分类器以预测方面和观点词及其对应的情感类别。
• 通过联合损失函数联合训练所有任务，促进知识迁移。
• 在任务间共享注意力机制，以利用共性并提高泛化能力，尤其是在低资源类别中。

实验结果

研究问题

• RQ1 与孤立任务方法相比，联合建模方面和观点词抽取及类别分类是否能提升性能？
• RQ2 所提出的多任务耦合注意力机制在缓解低资源情感类别中的数据稀疏性方面有多有效？
• RQ3 跨任务学习共享表征在多大程度上提升了方面和观点词联合抽取的准确性？
• RQ4 该模型是否在标准基准数据集上实现了类别特定方面和观点词联合抽取的最先进性能？

主要发现

• 所提出的模型在三个类别特定方面和观点词联合抽取的基准数据集上实现了最先进性能。
• 多任务耦合注意力机制通过利用相关任务之间的共享表征，有效缓解了数据稀疏性问题。
• 联合学习方面和观点词抽取及类别分类相比单任务基线模型，显著提升了抽取准确性。
• 由于任务间的知识迁移，该模型在低资源情感类别中表现出强大的泛化能力。