[论文解读] Grid Tagging Scheme for Aspect-oriented Fine-grained Opinion Extraction

Zhen Wu, Chengcan Ying+4 more|arXiv (Cornell University)|Oct 9, 2020

Sentiment Analysis and Opinion Mining参考文献 31被引用 15

一句话总结

本文提出了一种新型端到端框架——网格打标方案（GTS），用于方面导向的细粒度观点抽取，将观点对（aspect, opinion）和三元组（aspect, opinion, sentiment）抽取统一为单一的网格打标任务。通过设计的推理策略利用观点因素之间的相互依赖关系，基于CNN、BiLSTM和BERT的GTS模型取得了最先进性能，在OPE和OTE基准测试中均优于强基线模型。

ABSTRACT

Aspect-oriented Fine-grained Opinion Extraction (AFOE) aims at extracting aspect terms and opinion terms from review in the form of opinion pairs or additionally extracting sentiment polarity of aspect term to form opinion triplet. Because of containing several opinion factors, the complete AFOE task is usually divided into multiple subtasks and achieved in the pipeline. However, pipeline approaches easily suffer from error propagation and inconvenience in real-world scenarios. To this end, we propose a novel tagging scheme, Grid Tagging Scheme (GTS), to address the AFOE task in an end-to-end fashion only with one unified grid tagging task. Additionally, we design an effective inference strategy on GTS to exploit mutual indication between different opinion factors for more accurate extractions. To validate the feasibility and compatibility of GTS, we implement three different GTS models respectively based on CNN, BiLSTM, and BERT, and conduct experiments on the aspect-oriented opinion pair extraction and opinion triplet extraction datasets. Extensive experimental results indicate that GTS models outperform strong baselines significantly and achieve state-of-the-art performance.

研究动机与目标

• 解决流水线方法在方面导向细粒度观点抽取（AFOE）中存在错误传播与效率低下的问题。
• 将观点对（OPE）与观点三元组（OTE）抽取统一为单一的端到端打标任务。
• 利用方面词、观点词与情感极性之间的相互依赖关系，提升抽取准确性。
• 设计一种兼容且高效的推理策略，通过利用跨因素指示信息增强预测性能。
• 在多种神经网络架构（CNN、BiLSTM、BERT）上验证GTS的可行性与优越性。

提出的方法

• 提出一种网格打标方案（GTS），将观点对与三元组抽取转化为对句子中所有词对的统一网格打标任务。
• 将每个词对关系表示为网格中的标签，编码潜在的方面-观点或方面-观点-情感关系。
• 设计一种解码算法，从网格预测中同时提取所有有效观点对或三元组。
• 引入一种推理策略，通过迭代方式利用方面词、观点词与情感极性之间的相互指示信息，逐步优化预测结果。
• 实现三种基于CNN、BiLSTM与BERT的GTS模型，以证明其在不同架构上的兼容性与有效性。
• 通过在网格打标框架中将观点对关系检测替换为情感极性分类，将GTS扩展至OTE任务。

实验结果

研究问题

• RQ1 统一的网格打标方案能否有效替代多阶段流水线方法用于方面导向观点抽取？
• RQ2 所提出的推理策略如何通过利用观点因素之间的相互依赖关系提升抽取准确性？
• RQ3 不同神经网络架构（CNN、BiLSTM、BERT）对GTS在OPE与OTE任务中的性能有何影响？
• RQ4 不同的推理时间如何影响GTS模型的性能表现？
• RQ5 GTS能否在观点对与观点三元组抽取基准测试中均达到最先进水平？

主要发现

• GTS模型在观点对抽取（OPE）与观点三元组抽取（OTE）任务中均显著优于强基线流水线模型。
• GTS-CNN模型在14LAP数据集上达到69.39%的F1值，大幅超越最佳基线模型。
• 推理策略在OPE任务中使性能最高提升2.33% F1，证明其在利用跨因素依赖关系方面的有效性。
• GTS-BERT仅需一次推理迭代即达峰值性能，表明BERT丰富的上下文表征减少了对多轮推理步骤的需求。
• 消融实验表明，若移除推理策略，性能将出现显著下降，验证了其在提升准确性中的关键作用。
• 网格打标框架与多种架构兼容，CNN、BiLSTM与基于BERT的GTS模型均持续取得SOTA结果，充分证明其通用性。