[논문 리뷰] Using Hadoop for Large Scale Analysis on Twitter: A Technical Report

Nikolaos Nodarakis, Spyros Sioutas외 2명|arXiv (Cornell University)|2016. 02. 03.

Sentiment Analysis and Opinion Mining참고 문헌 24인용 수 11

한 줄 요약

이 논문은 Hadoop의 MapReduce 모델에 기반한 확장 가능한 감성 분석 프레임워크인 MR-SAT을 제안한다. 이 프레임워크는 Hashtag와 이모티콘을 자동 감성 레이블로 활용하여 분산 및 병렬 방식으로 트윗의 감성을 분류한다. 특징 벡터를 압축하기 위해 블룸 필터를 통합함으로써 저장소 용량을 15–20% 감소시키고 I/O 효율성을 향상시켜 실행 속도를 높이며, 대규모 트위터 데이터셋에서 선형 확장성을 달성한다. 이로 인해 높은 분류 정확도를 확보할 수 있다.

ABSTRACT

Sentiment analysis (or opinion mining) on Twitter data has attracted much attention recently. One of the system's key features, is the immediacy in communication with other users in an easy, user-friendly and fast way. Consequently, people tend to express their feelings freely, which makes Twitter an ideal source for accumulating a vast amount of opinions towards a wide diversity of topics. This amount of information offers huge potential and can be harnessed to receive the sentiment tendency towards these topics. However, since none can invest an infinite amount of time to read through these tweets, an automated decision making approach is necessary. Nevertheless, most existing solutions are limited in centralized environments only. Thus, they can only process at most a few thousand tweets. Such a sample, is not representative to define the sentiment polarity towards a topic due to the massive number of tweets published daily. In this paper, we go one step further and develop a novel method for sentiment learning in the MapReduce framework. Our algorithm exploits the hashtags and emoticons inside a tweet, as sentiment labels, and proceeds to a classification procedure of diverse sentiment types in a parallel and distributed manner. Moreover, we utilize Bloom filters to compact the storage size of intermediate data and boost the performance of our algorithm. Through an extensive experimental evaluation, we prove that our solution is efficient, robust and scalable and confirm the quality of our sentiment identification.

연구 동기 및 목표

• 몇천 개의 트윗 이하만 처리할 수 있는 중심화된 감성 분석 시스템의 확장성 한계를 해결하기 위해.
• Hadoop MapReduce 프레임워크를 활용하여 트위터에서 대규모 분산 감성 분석을 가능하게 하기 위해.
• 분류 성능을 훼손하지 않으면서도 특징 벡터 표현에서 블룸 필터를 사용하여 저장소 및 I/O 오버헤드를 줄이기 위해.
• 대규모 트위터 데이터셋에서 이진 및 다중 클래스 감성 분류 모두에서 높은 정확도와 확장성을 달성하기 위해.
• 빅데이터 환경에서 실시간 감성 분석을 위한 강력하고 효율적이며 확장 가능한 프레임워크를 제공하기 위해.

제안 방법

• 자동 감성 레이블로 해시태그와 이모티콘을 사용하여 수동 주석 처리를 제거하고, 대규모 학습 데이터 생성을 가능하게 한다.
• 트윗 내용에서 고차원 특징 벡터를 구성하며, 어간 빈도와 TF-IDF 가중치를 활용해 텍스트 특징을 표현한다.
• 블룸 필터를 활용해 특징 집합을 압축적으로 표현함으로써 MapReduce 처리 중 저장소 및 I/O 비용을 절감한다.
• 해시태그와 이모티콘에서 유도된 레이블이 부여된 트윗 데이터를 기반으로 기계 학습 모델을 훈련시켜 이진 및 다중 클래스 분류를 수행한다.
• Hadoop 환경에 구현되어 클러스터를 통해 계산을 분산함으로써 수평적 확장성을 확보한다.
• 동적 데이터 파artitioning을 지원하며, 다양한 데이터 크기와 특징 집합 차원에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 MapReduce 기반 시스템이 대규모 트위터 데이터에서 감성 분석에 대해 선형 확장성을 달성할 수 있는가?
• RQ2 해시태그와 이모티콘이 감성 분류기 훈련에 자동 감성 레이블로 사용될 때 얼마나 효과적인가?
• RQ3 블룸 필터는 감성 분석의 특징 벡터 표현에서 저장소 절감과 성능 향상에 어느 정도 기여하는가?
• RQ4 블룸 필터의 해시 함수 수 k 선택이 이진 및 다중 클래스 설정 모두에서 분류 정확도에 어떤 영향을 미치는가?
• RQ5 분산 감성 분석 파이프라인에서 블룸 필터를 사용할 경우, 사전 처리 시간과 실행 시간 사이의 상호 교환 관계는 어떠한가?

주요 결과

• 블룸 필터의 사용으로 모든 실험 설정에서 특징 벡터의 저장소 크기가 15–20% 감소하여 I/O 오버헤드가 크게 감소했다.
• 거짓 양성 결과가 존재하더라도 블룸 필터는 높은 분류 성능을 유지했으며, 이중 및 다중 클래스 설정 모두에서 k 값의 변화에 관계없이 조화 평균 F-스코어가 안정적으로 유지되었다.
• 블룸 필터가 없을 경우 k 값을 증가시키면 성능 향상이 두드러지게 나타났는데, 이는 블룸 필터가 높은 k 값이 필요로 하는 상황을 완화시킨다는 것을 시사한다.
• 시스템은 거의 선형 확장성을 보였다. 원본 데이터셋의 0.2배에서 0.8배로 데이터 크기가 증가함에 따라 실행 시간도 비례적으로 증가하여 강력한 확장성임을 확인했다.
• 블룸 필터는 I/O를 줄여 실행 시간을 약간 향상시켰지만, 다중 클래스 이모티콘 분류에서는 이점이 미미했다.
• 프레임워크는 높은 조화 평균 F-스코어를 기록했으며, 이중 이모티콘 분류에서는 최대 0.79, 다중 클래스 이모티콘 분류에서는 0.60에 이르렀다. 이는 강력한 분류 성능을 확인한다.