[论文解读] A Unified Generative Framework for Aspect-Based Sentiment Analysis

Hang Yan, Junqi Dai+3 more|arXiv (Cornell University)|Jun 8, 2021

Sentiment Analysis and Opinion Mining参考文献 44被引用 11

一句话总结

本文提出了一种统一的生成式框架，用于方面级情感分析（ABSA），通过将所有七个子任务——方面术语抽取、观点术语抽取、情感分类及其组合——重新表述为使用指针索引和情感类别索引的序列生成任务。通过利用预训练的序列到序列模型BART，该框架在无需架构修改的情况下，以端到端方式在所有子任务上实现了最先进性能，在四个公开数据集上表现出显著提升。

ABSTRACT

Aspect-based Sentiment Analysis (ABSA) aims to identify the aspect terms, their corresponding sentiment polarities, and the opinion terms. There exist seven subtasks in ABSA. Most studies only focus on the subsets of these subtasks, which leads to various complicated ABSA models while hard to solve these subtasks in a unified framework. In this paper, we redefine every subtask target as a sequence mixed by pointer indexes and sentiment class indexes, which converts all ABSA subtasks into a unified generative formulation. Based on the unified formulation, we exploit the pre-training sequence-to-sequence model BART to solve all ABSA subtasks in an end-to-end framework. Extensive experiments on four ABSA datasets for seven subtasks demonstrate that our framework achieves substantial performance gain and provides a real unified end-to-end solution for the whole ABSA subtasks, which could benefit multiple tasks.

研究动机与目标

• 为解决由于输入、输出和任务类型差异导致的七个ABSA子任务缺乏统一框架的问题。
• 消除ABSA中对特定任务解码器或流水线架构的需求。
• 通过单一序列到序列模型实现所有子任务的端到端训练与推理。
• 在多样化的ABSA基准上实现强大性能，且架构改动极少。

提出的方法

• 通过将输出表示为指针索引序列（用于方面和观点跨度）和情感类别索引，将所有ABSA子任务统一为一个序列生成任务。
• 使用BART预训练的序列到序列模型作为主干网络，以端到端方式生成目标序列。
• 通过起始和结束标记索引表示方面和观点跨度，通过同一输出序列中的类别索引表示情感极性。
• 在多个数据集上进行端到端训练，实现子任务间的零样本或少样本泛化。
• 在推理中应用束搜索解码，并进行束大小分析，以确保在不同推理设置下的性能稳定性。
• 在推理过程中过滤无效预测（例如，非有序索引或无效子词标记），以提高可靠性。

实验结果

研究问题

• RQ1 是否可以在不使用特定任务解码器的情况下，将所有七个ABSA子任务统一在一个生成式序列到序列框架下？
• RQ2 所提出的基于索引的序列生成方法如何处理不同子任务间输入和输出的异质性？
• RQ3 基于BART的模型在所有子任务上是否同时显著优于现有最先进方法？
• RQ4 该统一框架是否在多样化的数据集和子任务组合中保持高性能？
• RQ5 该框架对超参数选择（如束大小）的鲁棒性如何？

主要发现

• 所提出的框架在四个公开数据集的所有七个子任务上均取得显著性能提升，14res数据集上F1最高提升达13点，16res数据集上提升达12点。
• 在14res、14lap、15res和16res数据集上，召回率分别实现近13、9、7和12个绝对F1点的提升，表明其具有强大的泛化能力。
• 束大小对F1分数影响极小，表明推理性能稳定且鲁棒。
• 无效预测率（非五长度、非有序或无效子词索引）较低（低于3.7%），证实了生成式表述的实际可行性。
• 该框架是首个在单一模型上评估所有七个ABSA子任务的工作，为统一ABSA系统设立了新基准。
• 该方法在每个子任务上均优于现有最先进模型，证明了统一基于索引的生成方法的有效性。