[论文解读] An Automatic Contextual Analysis and Clustering Classifiers Ensemble approach to Sentiment Analysis

Murtadha Talib AL-Sharuee, Fei Liu+1 more|arXiv (Cornell University)|May 29, 2017

Sentiment Analysis and Opinion Mining参考文献 29被引用 3

一句话总结

本文提出ACACCE，一种无监督、领域无关的情感分析方法，结合自动上下文分析与改进的k-means分类器集成。通过利用SentWordNet进行基于极性的质心初始化，并应用多种词项加权方案与多数投票机制，该方法在无需人工标注数据或训练的情况下，实现了在多样化数据集上的高准确率、高稳定性和强泛化能力。

ABSTRACT

Products reviews are one of the major resources to determine the public sentiment. The existing literature on reviews sentiment analysis mainly utilizes supervised paradigm, which needs labeled data to be trained on and suffers from domain-dependency. This article addresses these issues by describes a completely automatic approach for sentiment analysis based on unsupervised ensemble learning. The method consists of two phases. The first phase is contextual analysis, which has five processes, namely (1) data preparation; (2) spelling correction; (3) intensifier handling; (4) negation handling and (5) contrast handling. The second phase comprises the unsupervised learning approach, which is an ensemble of clustering classifiers using a majority voting mechanism with different weight schemes. The base classifier of the ensemble method is a modified k-means algorithm. The base classifier is modified by extracting initial centroids from the feature set via using SentWordNet (SWN). We also introduce new sentiment analysis problems of Australian airlines and home builders which offer potential benchmark problems in the sentiment analysis field. Our experiments on datasets from different domains show that contextual analysis and the ensemble phases improve the clustering performance in term of accuracy, stability and generalization ability.

研究动机与目标

• 解决监督情感分析的局限性，包括标注成本高和领域依赖性问题。
• 开发一种完全自动化的无监督方法，消除对人工标注训练数据的需求。
• 通过整合语言学上下文处理与集成学习，提升情感分析中聚类的稳定性和准确性。
• 为澳大利亚航空公司和家装行业引入新的基准数据集，以促进情感分析研究。
• 通过整合多加权方案与非随机质心初始化，提升在多样化领域中的泛化能力与鲁棒性。

提出的方法

• 该方法采用两阶段架构：(1) 上下文分析，利用语言学规则处理否定、强调词、对比关系及拼写纠正。
• 应用拼写纠正以标准化文本，使用情感词典SentWordNet 3.0为形容词和副词分配极性。
• 通过SentWordNet中预聚类的正向与负向特征初始化k-means基础分类器，实现非随机、稳定的质心初始化。
• 采用不同词项加权方案（如TF-IDF、二值化、频率等）构建多个向量空间模型以表示文档。
• 通过自适应加权机制的多数投票策略，形成多个k-means分类器的集成，以提升分类可靠性。
• 采用种子集合策略解释聚类输出，增强群体判断力与结果的可解释性。

实验结果

研究问题

• RQ1 无监督、完全自动的情感分析方法是否能在不依赖标注训练数据的情况下实现具有竞争力的准确率？
• RQ2 上下文分析（处理否定、强调词与对比关系）对情感分类中聚类性能有何影响？
• RQ3 通过多种加权方案实现的集成学习在无监督情感聚类中，能在多大程度上提升稳定性和泛化能力？
• RQ4 所提出的方法是否能在多样化领域（如产品评论、航空公司、家装行业）中保持一致的性能表现？
• RQ5 非随机质心初始化在情感聚类中对k-means的稳定性与可复现性有何影响？

主要发现

• ACACCE在Kitchen数据集上的表现优于基线方法，展现出在挑战性领域中的优越性能。
• 该方法在多个数据集上表现出稳定性能，由于非随机质心初始化，重复运行结果一致。
• 上下文分析显著提升了聚类准确率，能够正确处理否定与强调等情感修饰词。
• 采用多样化加权方案的分类器集成增强了泛化能力，尤其在使用全局词项加权而非文档特定加权时更为显著。
• 利用SentWordNet将特征预先聚类为正向、负向与中性组，实现了有效且可解释的k-means质心初始化。
• 该方法具有鲁棒性且领域无关，完全不依赖标注数据，适用于大规模、实时情感分析应用。