[论文解读] SentiPrompt: Sentiment Knowledge Enhanced Prompt-Tuning for Aspect-Based Sentiment Analysis

Chengxi Li, Feiyu Gao+9 more|arXiv (Cornell University)|Sep 17, 2021

Sentiment Analysis and Opinion Mining参考文献 40被引用 57

一句话总结

tldr: SentiPrompt 引入了将情感知识增强的提示，用于在统一的生成框架中对语言模型进行 ABSA 调优，明确建模方面–观点–极性关系，并在 ABSA 子任务和数据集上实现最先进的结果。

ABSTRACT

Aspect-based sentiment analysis (ABSA) is an emerging fine-grained sentiment analysis task that aims to extract aspects, classify corresponding sentiment polarities and find opinions as the causes of sentiment. The latest research tends to solve the ABSA task in a unified way with end-to-end frameworks. Yet, these frameworks get fine-tuned from downstream tasks without any task-adaptive modification. Specifically, they do not use task-related knowledge well or explicitly model relations between aspect and opinion terms, hindering them from better performance. In this paper, we propose SentiPrompt to use sentiment knowledge enhanced prompts to tune the language model in the unified framework. We inject sentiment knowledge regarding aspects, opinions, and polarities into prompt and explicitly model term relations via constructing consistency and polarity judgment templates from the ground truth triplets. Experimental results demonstrate that our approach can outperform strong baselines on Triplet Extraction, Pair Extraction, and Aspect Term Extraction with Sentiment Classification by a notable margin.

研究动机与目标

• 将 ABSA 作为一个统一的端到端任务，而非多阶段管道来驱动。
• 利用情感知识将方面、观点和极性信息注入提示中。
• 通过一致性和极性模板显式建模方面与观点术语之间的关系。
• 通过带可训练提示编码器的提示调优提升 ABSA 子任务性能（AESC、Pair、Triplet）。

提出的方法

• 采用统一的生成框架（带指针网络的 BART）将 ABSA 输出表示为索引序列。
• 通过从真实三元组构建情感知识增强的提示并执行掩码语言模型，引入 SentiPrompt MLM。
• 使用提示编码器获取可训练的连续提示表示，替代伪提示令牌的嵌入。
• 形成一致性与极性判定提示以监督编码器并显式捕捉方面–观点–极性关系。
• 将 SentiPrompt MLM 损失与生成损失混合，以联合训练编码器和索引生成器。
• 应用带编码器–解码器（BART）和指针网络的生成框架，在 AESC、Pair 和 Triplet 任务中预测答案的索引（a, o, s）。

实验结果

研究问题

• RQ1 如何将情感知识有效注入提示以引导 ABSA 任务？
• RQ2 带任务自适应提示的统一生成框架能否胜过多阶段或纯微调的 ABSA 模型？
• RQ3 通过提示对方面–观点–极性关系进行显式建模是否能提升三元组提取及相关子任务？
• RQ4 提示编码器与连续提示表示对 ABSA 性能的影响是什么？

主要发现

• 与强基线相比，SentiPrompt 在多个子任务和数据集上提升了 ABSA 性能。
• 基于提示的情感知识注入帮助编码器学习方面与观点术语之间的显式关系。
• 通过可训练的提示编码器得到的连续提示表示相较于人工设计的提示带来性能提升。
• 该方法在统一框架内对 AESC、Pair 和 Triplet 任务均保持有效。
• SentiPrompt 在若干数据集上超越了最先进基线，展示了情感知识增强提示在 ABSA 的有效性。