[논문 리뷰] Inducing Domain-Specific Sentiment Lexicons from Unlabeled Corpora

William L. Hamilton, Kevin B. Clark외 2명|arXiv (Cornell University)|2016. 06. 09.

Sentiment Analysis and Opinion Mining참고 문헌 43인용 수 39

한 줄 요약

이 논문은 소수의 시드 단어와 비라벨링된 코퍼스에서 정확하고 신뢰도가 측정된 감성 어휘를 유도하기 위해 도메인 특화 단어 임베딩과 레이블 전파를 결합한 SentProp 프레임워크를 소개한다. 이는 수작업로 구성된 어휘와 유사한 최신 기술 성능을 달성하며, 150년에 걸쳐 영어에서 5퍼센트 이상의 감성 어휘가 극적으로 극성 전환을 겪었고, 250개의 Reddit 커뮤니티 간 감성의 급격한 변동을 드러낸다.

ABSTRACT

A word's sentiment depends on the domain in which it is used. Computational social science research thus requires sentiment lexicons that are specific to the domains being studied. We combine domain-specific word embeddings with a label propagation framework to induce accurate domain-specific sentiment lexicons using small sets of seed words, achieving state-of-the-art performance competitive with approaches that rely on hand-curated resources. Using our framework we perform two large-scale empirical studies to quantify the extent to which sentiment varies across time and between communities. We induce and release historical sentiment lexicons for 150 years of English and community-specific sentiment lexicons for 250 online communities from the social media forum Reddit. The historical lexicons show that more than 5% of sentiment-bearing (non-neutral) English words completely switched polarity during the last 150 years, and the community-specific lexicons highlight how sentiment varies drastically between different communities.

연구 동기 및 목표

• 감성의 맥락 의존성으로 인해 일반적인 어휘가 편향을 유발하는 계산 사회과학 분야에서 도메인 특화 감성 어휘의 필수적 필요성을 해결하기 위해.
• 비용이 많이 들거나 도메인 특화 감시 없이도 정확한 감성 어휘를 유도할 수 있는 확장성 있고 자원이 적은 방법을 개발하기 위해.
• 시간(역사적 텍스트)과 사회 커뮤니티(온라인 포럼) 간 감성의 변동을 정량화하여 단어 감성의 대규모 변화를 드러내기 위해.
• 연구자들이 도메인 특화 맥락에서 감성 분석을 수행할 수 있도록 원칙적이고 불확실성 인식 기반의 프레임워크를 제공하기 위해.
• 커뮤니티 사용을 위해 사전 학습된 어휘와 벤치마크 구현을 포함한 포괄적인 툴킷(SocialSent)을 공개하기 위해.

제안 방법

• SentProp는 정확도가 높은 도메인 특화 단어 임베딩과 레이블 전파 알고리즘을 결합하여 소수의 시드 단어에서 나머지 어휘 전체로 감성 점수를 전파한다.
• 이 방법은 단어를 노드로, 단어 임베딩에서 유도된 의미 유사도를 간선으로 하는 그래프 기반 표현을 사용한다.
• 레이블 전파 공식을 사용하여 감성 점수를 반복적으로 전파하며, 안정된 감성 값으로 수렴한다.
• 각 감성 점수의 신뢰구간을 추정하기 위해 새로운 부트스트랩 샘플링 프레임워크를 도입하여 유도된 어휘의 불확실성을 정량화한다.
• 이 프레임워크는 두 가지 대규모 연구에 적용된다: 150년간의 영어(COHA)에 대한 역사적 감성 분석과 250개의 Reddit 서브레딧에 대한 커뮤니티 특화 감성 유도.
• 극성 임계값(긍정/부정/중립)을 결정하기 위해 클래스 질량 정규화를 사용하여 전체 극성 전환 탐지 기능을 제공한다.

실험 결과

연구 질문

• RQ1 1850–1880년과 1970–2000년 사이에 단어의 감성 극성이 어떻게 변화했으며, 영어에서 150년 동안 전체 극성 전환을 겪은 단어의 비율은 얼마나 되는가?
• RQ2 다양한 온라인 커뮤니티 간 감성이 얼마나 다를까? 커뮤니티 특화 어휘는 일반 감성 어휘와 어떻게 다를까?
• RQ3 단어 임베딩과 레이블 전파를 조합한 준감독 프레임워크가 수작업으로 구성된 자원 없이도 최신 기술 성능을 달성할 수 있는가?
• RQ4 도메인 특화 어휘에서 감성 점수의 불확실성을 원칙적으로 어떻게 정량화할 수 있는가?
• RQ5 어떤 역사적 및 사회적 요인이 감성 어휘의 의미 변화, 즉 감성 향상(amelioration)과 감성 낙제(pejoration)를 이끌었는가?

주요 결과

• 1850–1880년과 1970–2000년 사이에 감성 어휘(비중립)의 5퍼센트 이상이 극성 전환을 겪었으며, 이는 대규모 역사적 감성 변화를 보여준다.
• 단어 'lean'은 약화라는 부정적인 의미에서 근육질과 피트니스와의 긍정적 연관성으로 감성 향상이 일어났다.
• 단어 'pathetic'은 부족함과 약화를 더 강하게 연관지워 부정적인 의미로 강화되었으며, 이는 이전에 더 중립적이거나 긍정적인 감성인 열정과의 연관성에서 변화했다.
• 'sorry'와 'worldly'와 같은 단어들도 의미의 퇄색과 재분석를 겪어 부정에서 중립 또는 긍정적 의미로 변화했다.
• 250개의 Reddit 서브레딧에 대한 커뮤니티 특화 감성 어휘는 감성에 상당한 변동을 보였으며, 'soft'와 같은 단어는 스포츠 커뮤니티에서는 부정적이고 장난감 동물 커뮤니티에서는 긍정적인 감성을 지녔다.
• SentProp는 소수의 시드 세트와 보통 크기의 코퍼스(~10^7 토큰)만을 사용함에도 불구하고 수작업으로 구성된 어휘와 유사한 최신 기술 성능을 달성했다.