[论文解读] Explainable Sentence-Level Sentiment Analysis for Amazon Product Reviews

Xuechun Li, Xueyao Sun+2 more|arXiv (Cornell University)|Nov 11, 2021

Sentiment Analysis and Opinion Mining被引用 5

一句话总结

本文提出一种基于双向LSTM与注意力机制的可解释性句子级情感分析模型，用于亚马逊产品评论，准确率达到96%。研究指出，方面术语通常比情感词获得更高的注意力权重，从而增强了模型的可解释性，并揭示了驱动情感预测的关键因素。

ABSTRACT

In this paper, we conduct a sentence level sentiment analysis on the product reviews from Amazon and thorough analysis on the model interpretability. For the sentiment analysis task, we use the BiLSTM model with attention mechanism. For the study of interpretability, we consider the attention weights distribution of single sentence and the attention weights of main aspect terms. The model has an accuracy of up to 0.96. And we find that the aspect terms have the same or even more attention weights than the sentimental words in sentences.

研究动机与目标

• 开发一种具有高可解释性的亚马逊产品评论句子级情感分析模型。
• 探究注意力权重在识别情感驱动元素（如方面术语和情感词）中的作用。
• 评估在模型决策过程中，方面术语是否获得与情感词相当或更高的注意力权重。
• 通过注意力可视化与分布分析，提供关于模型行为的可操作洞察。
• 通过将注意力与人类可理解的语言特征关联，提升自然语言处理模型在电商情感分析中的透明度。

提出的方法

• 使用双向长短期记忆网络（BiLSTM）捕捉句子级评论中的序列依赖关系。
• 集成注意力机制，动态加权输入序列中每个词的重要性。
• 在句子层面及文本中识别出的主要方面术语上分析注意力权重。
• 在带有二元情感标签（正面/负面）的亚马逊产品评论数据上训练模型。
• 通过可视化单词和方面术语之间的注意力分布，增强模型的可解释性。
• 在注意力分析之前，使用预定义的方面检测模块提取方面术语。

实验结果

研究问题

• RQ1 在模型预测中，方面术语的注意力权重是否高于或等同于情感词？
• RQ2 注意力权重在句子中不同类型词汇（如方面术语、情感词、功能词）上的分布如何？
• RQ3 注意力机制在多大程度上反映了人工标注的情感驱动因素？
• RQ4 基于注意力的解释是否能可靠地突出句子情感分类的关键贡献因素？
• RQ5 模型性能与注意力模式可解释性之间是否存在相关性？

主要发现

• 所提出的模型在亚马逊产品评论数据集上实现了96%的情感分类准确率。
• 方面术语在相同句子中获得的注意力权重始终等于或高于情感词。
• 注意力可视化显示，即使存在情感词，方面术语通常是情感预测的主要驱动因素。
• 注意力机制有效突出了语义上有意义的短语，提升了模型的透明度。
• 注意力权重与人类识别的情感相关术语之间存在强烈对齐，增强了模型的可解释性。
• 研究结果表明，方面术语不仅对情感理解至关重要，也是模型决策过程的核心。