[논문 리뷰] An Automatic Contextual Analysis and Clustering Classifiers Ensemble approach to Sentiment Analysis

Murtadha Talib AL-Sharuee, Fei Liu외 1명|arXiv (Cornell University)|2017. 05. 29.

Sentiment Analysis and Opinion Mining참고 문헌 29인용 수 3

한 줄 요약

이 논문은 인간 레이블이 없고 학습 데이터가 필요 없는, 도메인에 종속되지 않은 감성 분석 방법인 ACACCE를 제안한다. 이 방법은 자동 문맥 분석과 수정된 k-means 분류기의 앙상블을 결합한다. SentWordNet을 사용해 극성 기반 중심점 초기화를 수행하고, 다수의 용어 가중치 부여 방식을 적용한 후 다수결 투표를 통해 높은 정확도, 안정성, 일반화 능력을 달성한다. 다양한 데이터셋에서 인간 레이블 데이터나 학습 과정 없이도 성능을 발휘한다.

ABSTRACT

Products reviews are one of the major resources to determine the public sentiment. The existing literature on reviews sentiment analysis mainly utilizes supervised paradigm, which needs labeled data to be trained on and suffers from domain-dependency. This article addresses these issues by describes a completely automatic approach for sentiment analysis based on unsupervised ensemble learning. The method consists of two phases. The first phase is contextual analysis, which has five processes, namely (1) data preparation; (2) spelling correction; (3) intensifier handling; (4) negation handling and (5) contrast handling. The second phase comprises the unsupervised learning approach, which is an ensemble of clustering classifiers using a majority voting mechanism with different weight schemes. The base classifier of the ensemble method is a modified k-means algorithm. The base classifier is modified by extracting initial centroids from the feature set via using SentWordNet (SWN). We also introduce new sentiment analysis problems of Australian airlines and home builders which offer potential benchmark problems in the sentiment analysis field. Our experiments on datasets from different domains show that contextual analysis and the ensemble phases improve the clustering performance in term of accuracy, stability and generalization ability.

연구 동기 및 목표

• 감성 분석의 지도 학습 기반 접근법의 한계를 해결하기 위해, 높은 레이블링 비용과 도메인 의존성 문제를 해결한다.
• 인간 레이블이 필요한 학습 데이터 없이도 완전히 자동화된 비지도 방법을 개발한다.
• 언어적 문맥 처리와 앙상블 학습을 융합하여 감성 분석에서 클러스터링의 안정성과 정확도를 향상시킨다.
• 감성 분석 연구를 위한 호주 항공사 및 주택 건설업체 분야의 새로운 벤치마크 데이터셋을 제안한다.
• 다양한 도메인에 걸쳐 일반화 능력과 강건성을 향상시키기 위해 다중 가중치 부여 방식 통합 및 비확률적 중심점 초기화를 통해 성능을 향상시킨다.

제안 방법

• 이 방법은 이중 단계 아키텍처를 사용한다: (1) 부정, 강조어, 대조, 철자 수정 등의 언어 규칙을 활용한 텍스트 전처리를 위한 문맥 분석.
• 텍스트를 정규화하기 위해 철자 수정을 적용하고, 감성 어휘집인 SentWordNet 3.0을 사용해 형용사와 부사를 극성으로 할당한다.
• k-means 기본 분류기를 수정하여 SentWordNet의 사전 클러스터링된 긍정 및 부정 특징을 기반으로 중심점을 초기화함으로써 무작위가 아닌 안정적인 초기화를 보장한다.
• 다양한 용어 가중치 부여 방식(예: TF-IDF, 이진, 빈도)을 사용해 다수의 벡터 공간 모델을 구축하여 문서를 표현한다.
• 다양한 가중치 부여 방식을 가진 k-meanes 분류기들을 앙상블하여 다수결 투표 기반 메커니즘과 적응형 가중치 부여 방식을 적용해 분류 신뢰도를 향상시킨다.
• 클러스터링 결과의 해석과 해석 가능성 향상을 위해 시드 어셈블리 전략을 사용한다.

실험 결과

연구 질문

• RQ1 비지도, 완전히 자동화된 감성 분석 방법이 레이블이 없는 학습 데이터 없이도 경쟁력 있는 정확도를 달성할 수 있는가?
• RQ2 부정, 강조어, 대조어를 처리하는 문맥 분석이 감성 분류의 클러스터링 성능에 어떤 영향을 미치는가?
• RQ3 다양한 가중치 부여 방식을 통합한 앙상블 학습이 비지도 감성 클러스터링에서 안정성과 일반화 능력을 얼마나 향상시키는가?
• RQ4 제안된 방법이 제품 리뷰, 항공사, 주택 건설업체 등 다양한 도메인에서 일관된 성능을 유지할 수 있는가?
• RQ5 비확률적 중심점 초기화 방식이 k-means의 안정성과 재현 가능성에 어떤 영향을 미치는가?

주요 결과

• ACACCE는 레이블이 없는 데이터셋인 Kitchen 데이터셋에서 기준 방법보다 높은 정확도를 기록하여 도전적인 도메인에서도 뛰어난 성능을 보였다.
• 비확률적 중심점 초기화 덕분에 반복 실행 시에도 일관된 결과를 보이며, 다양한 데이터셋에서 안정적인 성능을 유지했다.
• 문맥 분석을 통해 부정, 강조어 등의 감성 수정어를 정확히 처리함으로써 클러스터링 정확도가 크게 향상되었다.
• 다양한 가중치 부여 방식을 가진 분류기 앙상블은 일반화 능력을 향상시켰으며, 특히 문서 기반 가중치보다 전역 용어 가중치를 사용할 경우 더 뛰어난 성능을 보였다.
• SentWordNet을 활용해 특징을 긍정, 부정, 중립 그룹으로 사전 클러스터링함으로써 k-means 중심점의 효과적이고 해석 가능한 초기화가 가능했다.
• 이 방법은 강건하고 도메인에 종속되지 않으며, 레이블이 없는 데이터에 의존하지 않아 대규모 실시간 감성 분석 응용 분야에 적합하다.