[논문 리뷰] Overcoming Language Variation in Sentiment Analysis with Social Attention

Yi Yang, Jacob Eisenstein|arXiv (Cornell University)|2015. 11. 19.

Topic Modeling참고 문헌 70인용 수 15

한 줄 요약

이 논문은 사회적 연결된 사용자들이 유사한 언어를 사용하는 언어적 동질성(linguistic homophily)을 활용하여 감성 분석을 향상시키는 신경망 모델인 Social Attention을 제안한다. 이는 사용자의 사회적 네트워크 내 위치에 따라 다수의 기초 모델을 주시하는 어텐션 메커니즘을 통해 구현되며, 개별 사용자에 대한 레이블이 필요로 하지 않고도 기존의 기준 모델보다 2–3%의 정확도 향상을 달성한다. 또한 SemEval 트위터 벤치마크에서 이전의 연구를 모두 능가한다.

ABSTRACT

Variation in language is ubiquitous, particularly in newer forms of writing such as social media. Fortunately, variation is not random, it is often linked to social properties of the author. In this paper, we show how to exploit social networks to make sentiment analysis more robust to social language variation. The key idea is linguistic homophily: the tendency of socially linked individuals to use language in similar ways. We formalize this idea in a novel attention-based neural network architecture, in which attention is divided among several basis models, depending on the author's position in the social network. This has the effect of smoothing the classification function across the social network, and makes it possible to induce personalized classifiers even for authors for whom there is no labeled data or demographic metadata. This model significantly improves the accuracies of sentiment analysis on Twitter and on review data.

연구 동기 및 목표

• 소셜 미디어와 같이 단어 의미가 사회적 집단 간에 변화하는 맥락에서 언어 다양성을 다루기 위해.
• 개별 사용자마다 레이블이 필요한 민족·연령 기반 모델이나 개인 맞춤형 시스템의 한계를 극복하기 위해.
• 사회 네트워크의 구조를 언어 유사성의 대체 지표로 활용하여, 레이블 데이터가 부족하거나 없더라도 강건한 감성 분류가 가능하도록 하기 위해.
• 사회 네트워크를 통해 다양한 언어 공동체 간에 일반화할 수 있도록 분류 함수를 부드럽게 다듬는 방법을 개발하기 위해.

제안 방법

• 모델은 사회적 네트워크의 다양한 국지적 영역에 초점을 맞춘 다수의 기초 모델 출력을 동적으로 조합하는 사회적 어텐션 메커니즘을 사용한다.
• 각 사용자의 위치를 표현하기 위해 네트워크 임bedding 기법(예: node2vec)을 활용해 저자 임베딩을 학습한다.
• 각 저자의 기초 모델과의 사회적 근접도를 바탕으로 어텐션 가중치를 계산하여, 사용자별로 개인화된 어텐션을 구현한다.
• 최종 예측은 각 기초 모델 출력의 가중합이며, 가중치는 저자의 네트워크 위치와 각 기초 모델과의 유사도에 의해 결정된다.
• 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 모델을 훈련하며, 어텐션 파rameter는 기초 모델과 함께 동시에 최적화된다.
• 사회 네트워크의 구조를 유도적 편향(inductive bias)으로 활용하여, 언어 다양성에 대한 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 언어 다양성이 존재하는 상황에서 사회적 네트워크 구조를 활용하여 감성 분류 성능을 향상시킬 수 있는가?
• RQ2 사회적으로 연결된 사용자들이 유사한 언어를 사용하는 언어적 동질성—즉, 사회적 유사성이 감성 분석의 일반화 능력을 향상시키는가?
• RQ3 사회 네트워크 영역에 대한 어텐션을 갖는 신경망 모델이, 자원이 제한된 감성 분류에서 표준 딥러닝 및 앙상블 모델보다 뛰어난 성능을 내는가?
• RQ4 개별 저자에 대한 레이블 데이터가 전혀 없을 때, 사회적 네트워크 정보가 성능 향상에 얼마나 기여하는가?
• RQ5 민족적 메타데이터나 원거리 감독(distant supervision)에 의존하지 않고도 다양한 언어 공동체 간에 일반화할 수 있는가?

주요 결과

• 사회 네트워크 정보가 포함된 경우, 관련된 신경망 및 앙상블 모델 대비 2–3%의 정확도 향상을 달성한다.
• SemEval 트위터 2013, 2014, 2015 테스트 세트에서 이전에 발표된 모든 결과를 초월한다.
• 제거 실험(ablation studies) 결과, 성능 향상의 핵심 요인은 모델 아키텍처가 아니라 사회적 네트워크 정보임을 확인한다.
• 레이블이 없는 저자에게도 사회적 근접도를 활용해 지식 전이를 통해 효과적인 개인 맞춤화를 가능하게 한다.
• 모델은 다양한 언어 공동체 간에 일반화되며, 'sick'과 같은 단어가 서로 다른 사회 집단에서 이중적인 감성 극성(예: 긍정/부정)을 띠는 미묘한 의미 변화를 포착한다.
• 어텐션 메커니즘이 사회 네트워크 전반에 걸쳐 분류 함수를 효과적으로 부드럽게 다듬어 언어 다양성에 대한 강건성을 향상시킨다.