[论文解读] Position-Aware Tagging for Aspect Sentiment Triplet Extraction

Lu Xu, Hao Li+2 more|arXiv (Cornell University)|Oct 6, 2020

Sentiment Analysis and Opinion Mining参考文献 46被引用 13

一句话总结

本文提出 JET，一种新颖的端到端模型，用于方面情感三元组抽取（ASTE），采用位置感知的标注方案，联合捕捉目标、情感和观点跨度。通过在标签语义中融入位置信息，JET 在多个数据集上超越了流水线基线模型，通过更优地建模三元组间的依赖关系，实现了最先进性能。

ABSTRACT

Aspect Sentiment Triplet Extraction (ASTE) is the task of extracting the triplets of target entities, their associated sentiment, and opinion spans explaining the reason for the sentiment. Existing research efforts mostly solve this problem using pipeline approaches, which break the triplet extraction process into several stages. Our observation is that the three elements within a triplet are highly related to each other, and this motivates us to build a joint model to extract such triplets using a sequence tagging approach. However, how to effectively design a tagging approach to extract the triplets that can capture the rich interactions among the elements is a challenging research question. In this work, we propose the first end-to-end model with a novel position-aware tagging scheme that is capable of jointly extracting the triplets. Our experimental results on several existing datasets show that jointly capturing elements in the triplet using our approach leads to improved performance over the existing approaches. We also conducted extensive experiments to investigate the model effectiveness and robustness.

研究动机与目标

• 为解决现有流水线方法在 ASTE 中无法建模目标、情感和观点跨度之间丰富交互关系的局限性。
• 设计一种联合序列标注框架，能够在不依赖后处理配对的情况下捕捉三元组成分之间的结构关系。
• 通过在标签语义中引入位置信息，弥合标准 BIOES 标注在表达能力上的差距。
• 开发一种能够通过增强的标签表示，联合提取方面情感三元组并提升准确率与鲁棒性的模型。

提出的方法

• 提出一种新颖的位置感知标注方案，通过使用多维标签标记来编码目标与观点跨度之间的相对位置，扩展标准 BIOES 标注。
• 设计联合标注框架 JET，通过增强的标签语义，同时以序列标注方式预测所有三元组成分（目标、情感、观点跨度）。
• 采用因子化特征表示，有效建模目标、情感和观点跨度成分之间的交互关系。
• 利用基于 BERT 的上下文嵌入作为输入表示，捕捉每个词元的深层上下文特征。
• 引入集成模型 JET o→t 和 JET t→o，通过融合两种 JET 变体的预测结果，提升召回率和整体 F1，利用互补预测。
• 在最终标签得分上应用 CRF 解码，以确保序列标注输出的一致性与有效性。

实验结果

研究问题

• RQ1 具有增强标签表达能力的联合序列标注方法是否能在 ASTE 中超越现有的两阶段流水线方法？
• RQ2 位置感知标注方案在建模目标、情感和观点跨度之间结构关系方面的有效性如何？
• RQ3 与基线相比，所提模型在召回率和 F1 上的提升程度如何，特别是在捕捉缺失三元组方面？
• RQ4 结合两种互补 JET 变体的集成策略是否能在不同数据集上带来一致的性能提升？

主要发现

• 所提出的 JET 模型在四个基准数据集（14S、14L、15S 和 16S）上均达到最先进性能，优于强大的流水线基线模型。
• 在 14Rest、14Lap 和 15Rest 数据集上，集成模型 JET t→o 的 F1 分数高于 JET t 和 JET o，证明了其有效互补性。
• 集成模型显著提升了召回率，证实两种 JET 变体捕捉了不同但有效的三元组，减少了漏检预测。
• 位置感知标注方案成功编码了三元组成分之间的结构关系，实现了无需后处理配对的端到端联合抽取。
• 该模型在多样化数据集上表现出鲁棒性，F1 和召回率持续提升，尤其在具有挑战性的测试集上表现突出。